全6375文字
PR

 AI(人工知能)の社会実装が進む一方で、AIに含まれるバイアス(偏見)の問題やプライバシーの侵害、非倫理的なAIの利用など、AIに関するリスクへの関心が国際的に高まっている。AI倫理を実現するうえで、利用者はどのようなリスクを検討すべきか。今回は「利用者に起こりうるAIへの過信」について、仮想シナリオに基づいて考えてみよう。

 AIに関する問題の原因は、必ずしもAIモデルの性能に起因するとは限らない。様々な環境変化がAIの性能に悪影響を与えることが考えられる。そのため利用者がAIに過度な期待を持っていると「思わぬ落とし穴」に遭遇する可能性がある。

 そこで今回は、AIの利用者に起こりがちな「AIへの過信」に関する問題を、工場の不良品検知AIという仮想ケースに基づいて考えてみる。ビジネスの現場でAIを利活用する際に、利用者側でどのようなリスクについて考慮すべきか、検討の一助となれば幸いだ。

 なお本連載ではAI倫理に関するリスクを洗い出して対応方法を検討する方法論として、筆者も客員研究員として所属する東京大学未来ビジョン研究センターが開発した「リスクチェーンモデル」というフレームワークを使用する。

 リスクチェーンモデルは、AIサービス固有の重要なリスクに対して、AIシステムの開発者や運営者、利用者が連携した対策を検討し、ステークホルダー間で合意形成を図ることを目的する。

今回のケース:環境変化で不良品検知AIにトラブル発生

 A工業は国内外の機械メーカー向けに品質の高い様々な部品を製造・販売するメーカーだ。A工業は最近、北関東地域に新工場を開設した。新工場は「人と地球と共に成長する工場」をコンセプトに掲げており、白を基調としながら広く開放感のあるデザインや自然光を取り入れた屋内照明を採用するなど、労働環境や地球環境に配慮している。

 例えば、新型コロナウイルスの感染拡大による影響を考慮し、三蜜を避けながら少人数体制でも十分な生産量を確保できるように、製造ラインに様々な自動化テクノロジーを採用した。

 A工業の製造ラインにおける欠陥品の発生率は0.1%以下だ。しかし品質に対する顧客の期待が高いことから、希少な確率でしか生じない欠陥品を見つけるための検品作業に、多くのベテラン技術者を従事させていた。そこでA工業は3年前に、主力の関西工場における検品工程に、独自開発した不良品検知AI「Error Finder」を導入した。

 Error Finderはディープラーニング(深層学習)ベースの画像認識技術を採用した不良品検知のAIだ。機械学習モデルの学習データには、関西工場でこれまで生産してきた部品の画像データを使用した。実際のデータを学習させることで、0.1%以下という希少な確率でしか発生しない欠陥品を、AIが高い精度で検知できるようにした。A工業はError Finderを導入することによって、関西工場で検品作業に従事する技術者の労働時間を約半分に削減することに成功した。Error Finderは今も関西工場で利用している。

Error Finderの概要
(出所:デロイト トーマツ グループ)
項目概要
AIサービス名Error Finder
AIサービスの内容工場の製造ラインに組み込まれた不良品検知AI
AIモデルディープラーニング(深層学習)ベースのリアルタイム画像認識モデル
出力内容製造ラインを流れる部品ごとに不良の有無を検知し、不良を認識した部品は検品プロセスに分岐する
学習データA工業の関西工場で収集した部品の画像データ(正常品/不良品の両方を含む)

 A工業は北関東地域に開設した新工場の製造ラインにも、このError Finderを導入した。新工場は従来工場の2倍の生産性を目標としており、最新の機器で生産スピードを向上させつつも、Error Finderによって品質を確保しようと考えた。

Error Finderを搭載した新工場の生産ライン
Error Finderを搭載した新工場の生産ライン
(出所:デロイト トーマツ グループ)
[画像のクリックで拡大表示]

 新工場が稼働して1年が経過した。初年度に目標としていた生産性は実現でき、社内でも成功事例として認識されていた。何より新工場において新型コロナウイルス感染が発生することはなく、工場勤務者の有給休暇獲得率も社内平均より高いことが分かり、既存の工場からも「新工場で採用された技術を取り入れたい」との声が上がってきた。

 ところがA工業の社内で開催した新工場の様々な取り組みに関する勉強会では、意外な事実が判明した。勉強会は製造本部の担当役員であるB取締役のあいさつに始まり、新工場のC工場長が新しい取り組みの概要を説明した後、新工場におけるデジタル化推進リーダー(通称DXキャプテン)であるD氏が新工場における様々なDX(デジタルトランスフォーメーション)の取り組みについてプレゼンテーションした。その中に「Error Finderと共に取り組んだ春夏秋冬の品質との闘い」というパートがあったのだ。実は新工場ではError Finderに関して、他工場の従業員が知らない様々な苦労があったのだという。

 いったいその「闘い」とは、どのようなものだったのだろうか。

最新型カメラの画像をAIが「異常」と判断

 新工場では製造ラインの製造機器に、最新のカメラを採用した。人間にとっては最新のカメラというと、常に良いものだと認識されがちだ。しかし不良品検査AIであるError Finderにとっては、最新のカメラが必ずしも良いものとはならなかったのだ。

DXキャプテンD氏:新工場の稼働初日に、私もC工場長も大変肝を冷やした事件が起きたので、まずは皆さんに共有させていただきます。新工場の検品工程では関西工場で開発された不良品検知AIであるError Finderを採用したのですが、何と稼働初日にError Finderが90%の部品を不良品として誤検知してしまったのです。皆さんもご存じの通り、関西工場の製造ラインにおける不良品の発生率は0.1%以下であり、90%の不良品発生は明らかに異常な事態です。
C工場長:あれはビックリしましたね。急きょ全員で製造機器の点検と検品に当たりました。私自身も稼働前のテスト検品に立ち会っており、異常がないことを目視で確かめています。やはり製造機器に異常はなく、Error Finderに不良品と認識された部品自体も、ほぼ全てが問題のない品質でした。新工場におけるError Finderのテストが不十分だったようです。
DXキャプテンD氏:おっしゃる通りです。私も完全に油断していました。Error Finderは多くの正常品を不良品と認識してしまったようです。問題の原因はError Finder自体ではなく最新のカメラによって撮影された画像でした。新工場の最新型カメラは8K対応の鮮明な画像を撮影できるのですが、Error Finderにとってはそのような鮮明な画像は「今まで見たことがない画像」だったのです。