全7017文字

 「2019年度中にPoC(概念実証)を済ませ、2020年度に本稼働を目指したい」。大手自動車部品メーカーであるアイシン精機 技術企画・統括部の名取直毅CP(Chief Project General Manager)は意気込む。

 同社は2019年10月、カナダの人工知能(AI)スタートアップ、エレメントAIと共同開発プロジェクトを始めた。目標はAIが自ら判断の根拠を説明する「説明可能なAI(Explainable AI、XAI)」の開発だ。エレメントAIは起業家のジャン=フランソワ・ガニエ氏と、AI研究の第一人者であるヨシュア・ベンジオ氏がカナダのモントリオールで創業したAIスタートアップで、説明可能AIを研究する専門チームを擁する。

図 両社が開発を目指す説明可能AIの概要
図 両社が開発を目指す説明可能AIの概要
アイシン精機、カナダのAI企業と説明可能AIを共同開発へ(写真提供:アイシン精機/左)
[画像のクリックで拡大表示]

きっかけは国際学会への参加

 エレメントAIと組んだきっかけは、2018年12月に開催されたAI分野の国際学会「NeurIPS 2018」だった。参加したアイシン精機の研究員が発表を聴講するなかで「AIのブラックボックス問題」や「AIの説明可能性」が世界的に話題になっていると実感した。

 アイシン精機は当時、AIが出力する結果について悩みを抱えていた。製品の外観写真などのデータを解析して品質上の課題を発見するAIの判断を、品質検査の責任者がどう解釈すればいいかが課題だった。

 「品質に問題あり」といったAIの出力結果を現場の技術者が理解し、納得したうえで、生産ラインに対策を講じないことには、AIの導入効果は半減する。精度の高さだけを追い求めるAIではない「人を納得させるAI」が求められた。アイシン精機 データサイエンス技術部の髙橋克彰グループマネージャーは「単に『重要度が高い領域を可視化する』だけの説明可能AIなら我々にも構築できる。我々が欲しいのはその先、『工場の現場や顧客が納得する説明ができるAI』だ」と語る。

 そこでアイシン精機がパートナーとして選んだのが、著名なAI研究者を擁するエレメントAIだった。同社は当時からNeurIPSなど国際学会の常連で、説明可能AIの重要性について盛んに情報を発信していた。

 今回の協業にあたり、アイシン精機はエレメントAIに説明可能AIの開発を委ねるわけではない。「生産工程向けの説明可能AIを開発するには、生産工程の専門知識が不可欠になる」(髙橋グループマネージャー)。互いの知見を交換し、協調しながら説明可能AIのアルゴリズムを開発する考えだ。最終的には、生産工程だけでなく自社製品に幅広く適用できる汎用的な説明可能AIの開発を目指す。

 説明可能AIは今や、産学問わずAI開発のホットトピックになりつつある。米グーグルは2019年11月に、クラウド型AIサービスの一部に説明可能AIの機能を加えたと明らかにした。機械学習モデルの出力について、入力データの各要素がどれくらい寄与したのかを算出して表示できる。このサマリー情報を通じ、ユーザーはAIがなぜその判断を下したのか、理由を理解できる。米マイクロソフトや米IBMなども技術開発に取り組んでいる。

この記事は有料会員限定です

「日経コンピュータ」定期購読者もログインしてお読みいただけます。

日経クロステック有料会員になると…

専門雑誌8誌の記事が読み放題
注目テーマのデジタルムックが読める
雑誌PDFを月100pダウンロード

有料会員と登録会員の違い