全1613文字
PR

 SNS(交流サイト)などでの誹謗(ひぼう)中傷が社会問題となるなか、ヤフーがテクノロジーを活用した対策を強化している。ニュース配信サイト「Yahoo!ニュース」のコメント投稿欄、いわゆる「ヤフコメ」の健全化を目的に自社開発したAI(人工知能)を、このほど無償で外部に提供し始めた。

「Yahoo!ニュース」のコメント投稿欄
「Yahoo!ニュース」のコメント投稿欄
(出所:ヤフー)

 国内でコメント投稿機能を備えたWebサービスを運営する企業向けに、深層学習ベースのAI技術「建設的コメント順位付けモデル」を利用するためのAPI(アプリケーション・プログラミング・インターフェース)を2020年9月18日から公開した。同AIは1つひとつのコメントについて「自分の意見を基に議論を喚起しているか」「客観的で、必要に応じて根拠を提示しているか」などを評価し、スコアを算出する機能を備える。

 外部企業は自サービスに投稿されたコメントについて、同API経由でそれぞれのスコアを取得。スコアを基に「質が高いコメントから順に表示する」といった手を打つことで、コメント欄の健全化につなげる。

33万件のコメントに3つのAIで対処

 Yahoo!ニュースの配信記事に対するコメント投稿数は現在、1日当たり平均33万件と膨大だ。専門チームによるパトロールと自社開発のAIを組み合わせて運営ポリシーに反する不適切な投稿を発見し、1日2万件を削除しているという。以前から機械学習によって作業の自動化を図っていたが、近年は社内の「Yahoo! JAPAN研究所」や社外の研究者らと連携しながら、深層学習による自然言語処理技術を活用して一段と作業を効率化しているという。

 ヤフーが現在のヤフコメで利用している自社開発のAIは、大きく分けて3つある。最初に導入したのが前述の建設的コメント順位付けモデルで、導入は2年前の2018年9月に遡る。

 その1年後、2019年9月には記事とコメントの関連性を判定する深層学習モデルを追加。記事の内容と無関係な不適切投稿の増加に対応した。さらに6カ月後の2020年3月からは、読んで不快なコメントかどうかを判定する深層学習モデルも投入した。