全1678文字

 「人工知能(AI)の予測は当てにならない」「予測が外れたら誰が責任を取るのか」「このAIは業務で使えない」。AIを業務の現場に導入したところ、ほどなくして業務担当者からこんなネガティブな意見が噴出する――。

 ソフトウエアエンジニアリングの研究者である、名古屋大学の森崎修司准教授によると、国内企業でデジタルトランスフォーメーション(DX)の一環としてAIの開発・導入が盛んになる中、こんなケースが起きているという。

AI導入後の業務の検討や合意形成が不十分

 なぜそうなるのか。原因として挙げられるのは、AIを導入して業務をどう変えるのかという検討や合意形成が十分ではないことだ。

 従来の業務システムであれば、開発は業務現場のニーズが起点になる。ITの担当者が業務現場でのヒアリングや調査によって業務課題を洗い出し、重大な課題を特定。それを解決する新業務フローを業務ルールも含めて設計し、システム要件を定義する。

 このうち業務設計やシステム要件の定義では「望んだ機能が盛り込まれるか」「増える仕事を誰が引き受けるか」といった点に関して、往々にして関係者の間で利害対立が生まれる。そのすり合わせの過程で、ITの担当者と業務現場が新業務やシステム要件について検討を繰り返し、納得感を深めていく。ここでのポイントは、新システムを導入した後業務がどう変わるのかについて、関係者がイメージし納得することだ。

 一方、AI開発はDX推進という経営戦略のもと、スピードが重視される。そのため「深層学習によってこんな機能を実現できる」といったシーズが起点になりやすい。それが業務現場のニーズと合致してコストが見合えば、優先順位の高いものから開発していくケースが多い。

 この進め方では、AIを導入した後業務がどう変わるのかについての議論や納得感の醸成が甘くなりやすい。その状態で、開発したAIを業務現場に導入すれば、無用な混乱を招くのは必定だ。生産ラインを流れる製品から不良品を検出するAIを例に取ると、業務現場の典型的な反応は次のようなものになる。

AI導入後に「手戻り」が発生

 導入当初は、業務担当者の反応はおおむね良いという。「(AIなのに)これだけの精度で不良品を検出してくれるのか。大したものだ」という驚きがあるからである。しばらく使っているうちに、実際にどれだけ有用かというシビアな評価が始まり、「AIが不良品を見逃したとき誰が責任を取るのか決まっていない」といった業務ルールの不備が浮上する。さらに「この程度の精度だとAIに任せられない。結局、目視検査も必要になるからAIは要らない」といったダメ出しが起きる。