テレビのバラエティー番組でも取り上げるほど、チャットAI（人工知能）がブームとなっている。火付け役となった米オープンAIのChatGPTや、米マイクロソフトの検索エンジンBingに組み込まれたチャットAI機能を試してみた読者も多いかと思う。
私も試してみたが、情報の「でたらめぶり」は評判通りだ。もちろん、広く知られている事実、有名な出来事などについては正確な情報を返してくるが、あまり知られていないテーマだと、たちまち返答の内容が怪しくなる。例えば私、木村岳史は誰かとChatGPTに問うと、最初の返答は「プロボクサー」であり、2つめの返答は「日経BPの社長」だった。
BingのチャットAI機能のほうは、インターネット検索と連携できるため比較的正確な答えを返してくる。ただし程度の問題で、全体としてはおおむね正しくとも、細かな情報に誤りがあったりする。「木村岳史」について聞くと、私に関する公開情報の要約と共に、某ラグビーチームのファンという情報も付加されていた。「へぇ、そんなチームがあるのか」と驚いたぐらいだから、もちろん偽情報である。
当たり前だが、一目でうそと分かる情報より、おおむね正しくて一部にうそが紛れ込んだ情報のほうが、うそも事実と受け取られかねないため危険だ。そこから導かれる一般的な結論は、チャットAIを検索エンジンの代わりに使うのは慎重を期したほうがよいということになる。
ただし、それはAIに固有の問題ではない。インターネット上の情報にもいえることだ。ネット上には情報があふれてはいるが、特定の情報を得ようと検索すると、有益な情報が少なくて戸惑うことが多々ある。様々なWebサイトやSNS（交流サイト）が情報を提供しているように見えても、大元の情報源は1つで、後はコピペに臆測などを加えただけといったケースもある。
結局のところ、検索エンジンと連携させても、汎用のチャットAIが学習し提供できる情報は限られることになる。決してネットで得られる情報を超えることはない。しかもSNSなどで誤解やうその混ざった情報が飛び交うのと同様に、チャットAIも常に偽情報を提供するリスクがつきまとう。
