中国人女優、AIディープフェイクによるスキンケア商品の無断販売を暴露

中国人女優の呉越は、スキンケア商品の販売に「雇われた」ことを知るためにスキャンダラスな見出しを読む必要はなかった。ただ目を覚ましただけでわかったのだ。10月18日の早朝、舞台と映画で活躍する彼女はソーシャルメディアに動画を投稿し、誰がAIを使って彼女の声と顔をクローンし、ライブ配信形式の販売促進に使用したのかを問いただした。「誰がAIを使って人々を騙し、私の名前で悪事を働いているのか？」と彼女は書き、アカウント運営者に直接呼びかけ、視聴者から奪った金を返還するよう要求した。

問題のアカウントは「華姉のスキンケア日記」と呼ばれるWeChat Channelsのページで、合成された「呉越」が商品を推薦するクリップを公開していた。動画はその後、女優の実際の公開イベントの映像に切り替わり、クローンされた声で彼女がメーカーと協力してファンに特別な取引を提供していると主張していた。この宣伝は、有名人のファン福祉という馴染みのある言葉遣いに依存しており、視聴者に疑問を抱かせずに製品を信頼させる種類のフレーズだった。

呉越の対応は迅速かつ公的だった。彼女は偽のクリップの画面録画を投稿し、運営者が何人を騙し、いくら金を集めたのかを鋭く問いただした。数時間以内に、WeChat Channelsはアカウントを永久に禁止し、コンテンツを削除したと発表した。10月19日に中国のテクノロジーメディアが報じたプラットフォームの声明は、削除を確認したが、返金が行われるかどうか、運営者がさらなる措置を受けるかどうかについては詳細を提供しなかった。

この事件は、安価で説得力のあるAI動画が、新奇なものから厄介なもの、そして完全な詐欺へと移行したことを鮮明に示す例である。かつて、認識可能な顔をクローン化するにはスタジオと予算が必要だった。今日では、公開されている写真数枚、数秒の録音された音声、そして消費者向けツールがあれば十分だ。有名人はその顔に信頼が内在しているため魅力的な標的であり、スキンケア、サプリメント、健康製品は利益率が高く、購入者が合成クリップの兆候を認識できない可能性のある高齢の視聴者であることが多いため、魅力的な製品である。

中国はこの点に関する規制を強化している。近年導入されたディープ合成に関する規制は、AI生成コンテンツに明確なラベルを付け、プラットフォームがそれを生成するユーザーの身元を確認することを要求している。しかし、執行はツールに遅れをとっている。詐欺は短編動画やライブ配信プラットフォームで頻繁に表面化し、販売は迅速に行われ、アカウントは再利用され、被害者は金額が小さく恥ずかしさが大きいため損失を報告することはめったにない。女優のなりすまし事件は繰り返し発生しており、映画、テレビ、スポーツの出演者が、自分が決して触れたことのない製品に自分の肖像が結びつけられているのを発見している。

呉越にとって、この出来事はアカウントの消滅で終わった。より広範な問題にとって、教訓はそれほど整然としたものではない。検出ツールは改善しており、公人が声を上げた場合、プラットフォームは迅速に行動するよう圧力を受けている。しかし、経済性は依然として詐欺師に有利である。1つの説得力のあるクリップは、誰かが気づくまでに何時間も流れることができ、別のものを作るコストはほぼゼロである。金を返還するよう求める女優の要求は、すべての中で最も難しい部分かもしれない。