全5142文字
PR

 AI(人工知能)の社会実装が進む一方で、AIに含まれるバイアス(偏見)の問題やプライバシーの侵害、非倫理的なAIの利用など、AIに関するリスクへの関心が国際的に高まっている。AI倫理を実現するうえで、利用者はどのようなリスクを検討すべきか。今回は「AIに影響する環境の変化」について、仮想シナリオに基づいて考えてみよう。

 AIに関する問題の多くは、AIモデルの不確実性に起因する。AIの学習データや利用環境などの変化が原因となって、AIが開発者の想定しない振る舞いする可能性がある。

 そこで今回は、「AIに影響する環境の変化」に関する問題を、前回と同じ「工場の不良品検知AI」という仮想ケースに基づいて考えてみる。ビジネスの現場でAIを利活用する際に、利用者側でどのようなリスクについて考慮すべきか、検討の一助となれば幸いだ。

 なお本連載ではAI倫理に関するリスクを洗い出して対応方法を検討する方法論として、筆者も客員研究員として所属する東京大学未来ビジョン研究センターが開発した「リスクチェーンモデル」というフレームワークを使用する。

 リスクチェーンモデルは、AIサービス固有の重要なリスクに対して、AIシステムの開発者や運営者、利用者が連携した対策を検討し、ステークホルダー間で合意形成を図ることを目的とする。

今回のケース:環境変化で不良品検知AIにトラブル発生

 A工業は国内外の機械メーカー向けに品質の高い様々な部品を製造・販売するメーカーだ。前回に続き今回のケースでも、同社が北関東地域に開設した新工場の検品工程に導入した独自開発の不良品検知AI「Error Finder」で生じたトラブルについて考察する。

Error Finderの概要
(出所:デロイト トーマツ グループ)
項目概要
AIサービス名Error Finder
AIサービスの内容工場の製造ラインに組み込まれた不良品検知AI
AIモデルディープラーニング(深層学習)ベースのリアルタイム画像認識モデル
出力内容製造ラインを流れる部品ごとに不良の有無を検知し、不良を認識した部品は検品プロセスに分岐する
学習データ各工場で収集した部品の画像データ(正常品/不良品の両方を含む)。新工場への導入後、工場ごと、撮影するカメラごとに複数のモデルを並行稼働できるようアップデートした。従来型カメラを使うAIモデルは関西工場で数年にわたって収集した画像データ、最新型カメラを使うAIモデルは新工場で稼働後に収集した画像データで学習している
図●Error Finderを搭載した新工場の製造ライン
図●Error Finderを搭載した新工場の製造ライン
(出所:デロイト トーマツ グループ)
[画像のクリックで拡大表示]

 前回のケースでは、「学習データを撮影したカメラとは異なる最新カメラを推論時に用いたことで、AIが正常品を不良品だと誤って検知した」「学習データを撮影した環境とは日照条件が違ったため、夏場の昼に不良品が異常に多く検知された」といったトラブルが、A工業の社内勉強会で報告されたことを紹介した。

 その社内勉強会では続いて、新工場のC工場長とデジタル化推進リーダー(通称DXキャプテン)であるD氏が、異なるトラブルについて報告した。

人間には見えない微細なノイズがAIの判断に影響

 AIは人間が用意した教師データに基づいて、人間のように判断できるよう学習を行う。しかしAIは、人間には知覚できないような情報に基づいて、人間が想定しなかった判断を下すことがある。今回、C工場長とD氏が報告したのは、Error Finderに生じたそんなトラブルだ。

DXキャプテンD氏:従来型カメラと最新カメラでの2系統のError Finderを並行稼働し始めてからは、しばらくはAIの動作も安定していました。私もC工場長も含めて、新工場の全ての人員が夏季休暇を予定通りに取得できていたと思います。ところが11月頭に、再び最新カメラを使うError Finderにおける不良品の検知が、少しずつ増加するようになりました。
C工場長:Error Finderが不良品と認識した部品を人手で検品したところ、ほとんどが問題のない品質でした。つまりError Finderが正常品を不良品と誤って認識している恐れがありました。そこでDXチームにAIモデルの状態を確認してもらいました。
DXキャプテンD氏:最新カメラを使うError Finderの判断結果を分析すると、部品ではなくベルトコンベヤーの表面に着目して、部品を不良品だと判断しているような傾向が見受けられました。現場を確認したところ、ベルトコンベヤー表面のラバーに摩耗が多く発生していました。AIはその摩耗部分を部品の不良箇所と認識していたようです。

 A工業ではベルトコンベヤーのラバー交換も検討したが、頻繁にラバー交換をしていては生産性に悪影響が出るとして、AI側での対応を目指すことにした。

 従来型カメラを使うError Finderでは今回の問題が発生していなかったことから、D氏らはそのAIモデルを開発した関西工場の開発者に相談した。すると関西工場では、数年間にわたって収集した画像データを使ってAIモデルを学習しており、その画像データには様々な状態のベルトコンベヤーが記録されていたことが分かった。