全6226文字
本記事はロボットとAI技術の専門誌『日経Robotics』のデジタル版です
本記事はロボットとAI技術の専門誌『日経Robotics』のデジタル版です

 韓国のAIスタートアップScatterLab社が開発し、20歳の女子大生と対話する気分を味わえるとしたAI「イ・ルダ」(https://luda.ai/)。言語処理AIのベンチマーク「SSA」で78%と高いスコアを実現していたが、サービス開始から3週間後、学習に用いたデータが個人情報を侵害しているとして問題となった。

 政府機関が調査を開始し、イ・ルダは結局、サービスを中断。学習に使用したディープラーニング対話モデルを廃棄するという結末を迎えた(図1、図2)。

図1 サービス中断を知らせる対話AI「イ・ルダ」のサイト
図1 サービス中断を知らせる対話AI「イ・ルダ」のサイト
学習データを収集する際に情報主体の同意を得ていない疑惑から個人情報侵害問題へ発展、2020年12月23日のサービス開始から3週間ほどで中断した。上の黄色いバーがサービス中断の告知。(画像:ScatterLab社)
[画像のクリックで拡大表示]

 イ・ルダはFacebookのメッセンジャー経由で利用するオープンドメイン対話AIで、サービス開始から2週間で利用者75万人を突破したほど人気を集めた。利用者の85%が10代だったほど、青少年の良き話し相手になっていた。

 ところがサービス開始後すぐ「イ・ルダをセクハラする方法」というSNSの投稿が問題になり、広く認知されるようになった。