全3919文字
PR

 製造業にとってAI(人工知能)は欠かせない技術になりつつある。製品に組み込むことで高度な制御の自動化を実現して付加価値向上を図るだけでなく、製品の設計や生産のプロセスで活用する例が増えてきた。不良品を見分ける品質検査AIに取り組む企業も多い。こうした中、「信頼できるAI」という考え方への注目が高まっている。

 AIはコンピューターの処理能力を用いて与えられたデータから有益な出力結果を導き出す。人による複合的な判断を代替するだけでなく、人には対応しきれない膨大な情報量を短時間で処理することも可能だ。

 ただし、AIによる推定プロセスがブラックボックス化してしまうと、出力された結果の信頼性を検証するのが難しくなる(図1)。例えば、近年注目される深層学習の場合、AIによる推定理由を人が理解したり説明したりするのは難しいとされる。推定理由が分からなければ、短期的な処理能力が人より優れていても、長期にわたる運用には不安が残る。結果、適用範囲が限られてくる。

図1 「信頼できるAI」の概要
図1 「信頼できるAI」の概要
推定理由が分かりにくいAIは高性能でも適用範囲が限られる。(出所:日経ものづくり)
[画像のクリックで拡大表示]

 そうした背景から、ITベンダー各社は数年前から信頼できるAIを目指した技術やサービスを相次いで発表してきた()。こうした製品では、製造条件と不具合との因果関係を推定したり、熟練者による意思決定の方法を再現したりできる。

表 信頼できるAIを目指した製品やサービスの例
(出所:日経ものづくり)
表 信頼できるAIを目指した製品やサービスの例
[画像のクリックで拡大表示]

 信頼できるAIを目指す手法には大きく分けて2つある。1つは、人が推定理由を理解しやすいAIを選ぶ方法、もう1つがAIの説明可能性を高める別のツールを併用する手法である。AIにはさまざまなアルゴリズムがあり、その中から説明可能性のより高いAIを用いるアプローチが前者になる。また、構築したAIを外部から管理したり検証したりして信頼性を高めるアプローチが後者である。