中國女演員揭露AI深度偽造以她名義販售護膚品

中國女演員吳悅不需要讀到醜聞標題才知道自己已被「僱用」來推銷護膚品。她只是醒來就發現了。10月18日凌晨，這位舞台和銀幕表演者在社交媒體上發布了一段視頻，詢問是誰使用AI克隆了她的聲音和臉部來進行直播風格的銷售宣傳。「是誰在用AI抓人並以我的名義作惡？」她寫道，直接對該帳號運營者喊話，並要求歸還從觀眾那裡收取的錢款。

涉事帳號是一個名為「花姐護膚日記」的微信視頻號頁面，它發布了一段剪輯，其中一個合成的「吳悅」在視頻開頭代言了一款產品。視頻隨後切換到這位女演員真實的公開活動片段，並配上克隆的聲音，聲稱她正在與一家製造商合作，為粉絲提供特別優惠。該宣傳依賴於熟悉的明星粉絲福利語言，這種措辭說服觀眾信任產品而不加質疑。

吳悅的回應迅速且公開。她發布了虛假剪輯的屏幕錄像，並尖銳地質問運營者欺騙了多少人、收取了多少錢。幾小時內，微信視頻號表示已永久封禁該帳號並清除了其內容。據中國科技媒體10月19日報導，該平台的聲明確認了刪除，但沒有詳細說明是否會退款或運營者是否面臨進一步行動。

這一事件生動地說明了廉價、逼真的AI視頻如何從新奇事物變成麻煩，再變成徹頭徹尾的欺詐。克隆一張可辨認的臉曾經需要攝影棚和預算。如今只需要幾張公開照片、幾秒鐘的錄音和一個消費級工具。名人是有吸引力的目標，因為他們的面孔自帶信任感，而護膚品、保健品和健康產品是有吸引力的產品，因為利潤率高，買家往往是年長的觀眾，他們可能無法識別合成剪輯的破綻。

中國一直在收緊這方面的規定。近年來出台的深度合成規定要求AI生成的內容必須明確標註，平台必須驗證製作內容的用戶身份。然而，執法落後於工具。詐騙往往出現在短視頻和直播平台上，那裡銷售速度快、帳號可以回收利用，受害者很少報案，因為金額小且尷尬大。女演員被冒名的案件層出不窮，電影、電視和體育界的表演者發現自己的肖像被附在他們從未接觸過的產品上。

對吳悅來說，這一事件以帳號消失告終。對更廣泛的問題而言，教訓不那麼簡單。檢測工具正在改進，平台在公眾人物發聲時面臨迅速行動的壓力。但經濟利益仍然有利於詐騙者：一個有說服力的剪輯可以在任何人注意到之前運行數小時，而製作另一個的成本幾乎為零。女演員要求歸還錢款可能是最難的部分。