全3095文字
「我々は『人工知能（AI）の基本理念』に従ったAIの構築に努めている。（その理念に沿って）人間がAIの挙動を理解するのに役立つ『説明可能なAI（Explainable AI）』を導入できることをうれしく思う」。米グーグルのトレイシー・フレイ（Tracy Frey） クラウドAI戦略ディレクターは同社ブログでこう表明した。
グーグルが、クラウド型AIサービスの一部に説明可能AIの機能を加えたと明らかにした。機械学習モデルの出力について、入力データの各要素がどれくらい寄与したのかを算出して表示できる（図1、図2）。このサマリー情報を通じ、ユーザーはAIがなぜその判断を下したのか、理由を理解できる。
図1 自転車による所要到達時間を予測する機械学習モデルについて、入力した気象条件のうち「最高気温」が予測に大きく効いていると分かる
（出所：米グーグル）
[画像のクリックで拡大表示]
図2 画像から「猫」を検出する機械学習モデルについて、画像内のどのピクセルが検出に大きく寄与したかを緑色で示した
（出所：米グーグル）
注目したいのは、グーグルがこのサービスを、同社が2018年6月に策定した「AIの基本理念」の一端を担う取り組みと位置づけている点だ。この理念は、グーグルが開発するAIについて「不公平なバイアスを防ぐ」「人々への説明責任を果たす」などの原則を掲げている。
同社はサービスの発表と合わせ、説明可能AIについて27ページにおよぶホワイトペーパーを公開した。この文書は同社が採用する説明可能AIの詳細を明らかにするとともに、説明可能AIの限界や、人間とAIとの付き合い方について、グーグルの考えを示すものとなっている。
AIを円滑に社会実装するカギとも言える説明可能AIについて、グーグルは何を考えているのか。ホワイトペーパーの記述からグーグルの思考を読み解こう。
