「2023年はディープフェイクを悪用するビジネスメール詐欺（Business Email Compromise、BEC）が増えるとみている。BECを自動化するサービスも登場するだろう」。トレンドマイクロの岡本勝之セキュリティエバンジェリストはこう見通す。
ディープフェイクとはAI（人工知能）を使って本物をそっくりにまねて作成した、偽の画像や動画、音声などを指す。もう1つのBECとは、取引相手になりすまして業務上の偽メールで送金を促し、お金をだまし取る詐欺行為のことである。
トレンドマイクロは2022年12月26日に公開した「2023年セキュリティ脅威予測」において、主要トピックの1つにディープフェイクを挙げた。「3～4年前の時点でディープフェイク音声を使った（偽のメールではなく偽の音声による）BECだと疑われるケースが確認されている」（トレンドマイクロの岡本氏）。
サイバー犯罪者たちの間で現在、BECの手法にディープフェイク音声を取り入れる動きが活発になっていると岡本氏は指摘する。BECの対策では「メールを送ってきた人は本当にその人か」を電話などで確かめることが求められるが、今後は役員や上司が振り込み指示を電話でしてきた場合も、十分に疑う必要がありそうだ。
脅威はこれにとどまるわけではない。岡本氏は「BECに関する処理を自動化した『BEC as a Service』が2023年にも登場するだろう」と予測する。攻撃者は金銭目的の詐欺をより実行しやすくなる可能性があり、サイバーリスクは一段と高まるわけだ。
加えて2023年はディープフェイク音声だけでなく、ディープフェイク動画を悪用した詐欺リスクも高まる恐れがある。現時点でディープフェイク動画をつくるツールは誰でも手に入る。例えばスマートフォンなどで利用できるアプリ「Avatarify」は、ユーザーが撮影した動画に映る人の顔を、別人の顔に簡単に差し替えられる。こうしたディープフェイク動画をWeb会議などで使い、動画版のBECが生じる可能性もあるのだ。
国内で初めてディープフェイク作成技術の悪用による逮捕事例が出たのは2020年10月のことだ。芸能人の画像を取り込んだポルノ動画をインターネット上に投稿した男性が逮捕された。世界に目を向ければディープフェイクは政治的にも悪用され、例えばウクライナのゼレンスキー大統領が国民に対してロシアに投降するよう促すディープフェイクの動画が2022年3月にFacebook上に投稿されている。
| 時期 | 概要 |
|---|---|
| 2020年10月 | ディープフェイクに関係した国内初の逮捕事例。ディープフェイクを使ってアダルトビデオを合成したとして、男性らが名誉毀損と著作権法違反の疑いで逮捕された |
| 2021年4月 | 欧州委員会が「欧州連合（EU）AI（人工知能）規則案」を公表。AIが実際の人間や物体、場所などに類似させて作成したデジタルコンテンツについては、AIが生成したコンテンツであると明示することを義務付けた |
| 2022年3月 | ウクライナのゼレンスキー大統領が自国民に対してロシアへの降伏を促すという内容のディープフェイクがFacebookなどに投稿される |
| 2022年6月 | EUが2018年策定の「偽情報に関する行動規範（Code of Practice on Disinformation）」を改訂し、ディープフェイクやフェイクニュースには広告を表示せず、偽情報の発信者が広告収入を得られないように求めた。米Googleや米Twitter、米Metaなどが署名した |
一方でディープフェイクの悪用に対する規制や法整備が欧州連合（EU）を中心に進んでいる。2022年6月には米Google（グーグル）や米Twitter（ツイッター）などがEUの「偽情報に関する行動規範」の改訂版に署名し、偽情報の発信者に広告収入が入らないように対処するとした。ただ「サイバー犯罪者は常に最新の攻撃ツールや攻撃手口を求めている」（トレンドマイクロの岡本氏）。ディープフェイクによる詐欺リスクへの警戒レベルは高めておくべきだろう。
