富士通が説明可能AIの新技術、「羅生門集合」で多様な解釈を発見

本記事はロボットとAI技術の専門誌『日経Robotics』のデジタル版です

［画像のクリックで別ページへ］

　機械学習で作成したモデルの挙動を人にわかりやすく説明することを目指す、いわゆる「説明可能なAI」の技術で、富士通が新基軸を打ち出した。説明可能なAIでは、通常は特定のモデルの動作を分析の対象とする。機械学習では、目的関数の値を最適にする1つのモデルを採用するのが普通だからである。

　これに対して富士通は、目的関数の値が最適に近い多数のモデルを説明に活用する手法を提案した（図1）。この集合を「羅生門集合」と呼ぶ。

　独特の名称の由来は、芥川龍之介の短編「藪の中」に基づく黒澤明監督の映画「羅生門」にある。一つの出来事を複数の観点から見ると、時として矛盾をはらんだ様々な解釈が成り立つことを主題にした作品である。同様に機械学習でも、最適なモデルと遜色ない性能のモデルは多数あり、それぞれが異なる説明をもたらし得る。