検索エンジンBingに「ChatGPT」をいち早く組み込んだ米Microsoft（マイクロソフト）の動きは、米Google（グーグル）への対抗策として非常にインパクトがあった。しかしマイクロソフトの今回の決断は、大きな禍根を残す可能性がある。チャットボットAI（人工知能）を検索エンジンとして使うのは難しいからだ。
筆者は本コラムで昨年来何度も、ChatGPTやその後継技術が「Google検索」を脅かす存在になり得る、と指摘してきた。チャットボットAIを検索エンジンとして売り込む企業や、チャットボットAIを検索エンジン代わりに使用し始めるユーザーが出てくると予測したからだ。だが、チャットボットAIを検索エンジンとして使うべきだ、と主張するつもりはない。
責任ある大企業であるマイクロソフトがこんなにも早く、ChatGPTを検索エンジンに組み込んできたのは予想外だった。しかもマイクロソフトはChatGPTを組み込んだBingやEdgeブラウザーを発表するに当たって「より優れた検索」や「完全な回答」が可能になると主張している。そうした主張も予想外だった。これを読んだ多くのユーザーが、ChatGPTのことを優れた検索エンジンであるとか、完全な回答が得られる質問回答エンジンであると受け止めたことだろう。
巨大言語モデルは「文章執筆補助」にとどめよと著名研究者
実際のところ、チャットボットAIを検索エンジンとして使用するのはなかなか難しい。米Meta（メタ）のAI研究責任者でチューリング賞受賞者であるYann LeCun（ヤン・ルカン）氏もそうした警鐘を鳴らす。
ルカン氏は2023年2月13日（米国時間）、自身のFacebookにChatGPTのような自己回帰型の巨大言語モデル（LLM）に関する意見を14カ条の形で投稿した。その中で「LLMは文章執筆補助として有用である」「LLMはでっち上げをしたり、近似的な回答をしたりする」「LLMの欠点は人間のフィードバックによって軽減できるが、修正はできない」「LLMを検索エンジンなどのツールに統合するのは容易ではない」などと主張した。
チャットボットAIの正誤を検証するのは非常に困難
チャットボットAIにまつわる難しさを改めて認識させてくれたのは、グーグルが2023年2月6日（米国時間）にチャットボットAI「Bard」を発表したブログを巡る騒動である。
グーグルはこのブログで、Bardによる質問応答のデモを紹介した。ところが「米航空宇宙局（NASA）のジェイムズ・ウェッブ宇宙望遠鏡（JWST）による新発見を9歳の子供に説明してください」との質問に対するBardの回答、「JWSTは太陽系外に存在する惑星の写真を初めて撮影しました」が誤っていると専門家から指摘されたのだ。
グーグルのチャットボットAIであっても誤った内容を出力するのは、想定内の現象である。むしろこの騒動から教訓とすべきなのは、チャットボットAIの出力が正しいか誤っているかを検証するのは、グーグルのような組織にとっても困難だった、ということである。世界中から俊英を集めたグーグルにとってすら難しいのだから、一般のユーザーや子供などにとってはなおのこと難しいだろう。
チャットボットAIの開発元は「チャットボットAIの出力が事実とは限らないので、検証してください」との断り書きを入れている。マイクロソフトもChatGPTベースのBingを、「WebのためのAI Copilot（副操縦士）」と呼んでいる。あくまでもメインの操縦士はユーザー自身、という意味である。
