Китайская актриса разоблачила ИИ-дипфейк, продающий косметику от её имени
Китайской актрисе У Юэ не нужно было читать скандальный заголовок, чтобы узнать, что её «наняли» продавать косметику. Она просто проснулась от этого. Ранним утром 18 октября театральная и киноактриса опубликовала видео в социальных сетях, спрашивая, кто использовал ИИ, чтобы клонировать её голос и лицо для продажи в стиле прямого эфира. «Кто использует ИИ, чтобы обманывать людей и творить зло от моего имени?» — написала она, обращаясь напрямую к оператору аккаунта и требуя вернуть деньги, взятые у зрителей.
Аккаунт, о котором идёт речь, страница в WeChat Channels под названием «Дневник ухода за кожей сестры Хуа», опубликовал клип, в котором синтетическая «У Юэ» открывает видео, рекламируя продукт. Затем видео переключается на подлинные кадры с публичного мероприятия с участием актрисы, в паре с клонированным голосом, утверждающим, что она сотрудничает с производителем, чтобы предложить фанатам особую сделку. Реклама опиралась на знакомый язык заботы о фанатах знаменитостей, ту самую фразу, которая убеждает зрителей доверять продукту, не задавая вопросов.
Реакция У Юэ была быстрой и публичной. Она опубликовала записи экрана поддельного клипа и прямо спросила, сколько людей обманул оператор и сколько денег было собрано. В течение нескольких часов WeChat Channels заявила, что навсегда заблокировала аккаунт и очистила его содержимое. Заявление платформы, о котором сообщили китайские технологические издания 19 октября, подтвердило удаление, но не предоставило подробностей о том, будут ли возвраты или столкнётся ли оператор с дальнейшими действиями.
Этот инцидент является ярким примером того, как дешёвое, убедительное ИИ-видео превратилось из новинки в неприятность, а затем в откровенное мошенничество. Клонирование узнаваемого лица когда-то требовало студии и бюджета. Сегодня достаточно нескольких общедоступных фотографий, нескольких секунд записанной речи и потребительского инструмента. Знаменитости являются привлекательными целями, потому что их лица несут встроенное доверие, а косметика, добавки и товары для здоровья — привлекательными продуктами, потому что маржа высока, а покупатели часто являются пожилыми зрителями, которые могут не распознать признаки синтезированного клипа.
Китай ужесточает правила в этой области. Правила о глубоком синтезе, введённые в последние годы, требуют, чтобы ИИ-контент был чётко маркирован, а платформы проверяли личность пользователей, которые его создают. Однако правоприменение отстаёт от инструментов. Мошенничество часто всплывает на платформах коротких видео и прямых трансляций, где продажи происходят быстро, аккаунты можно перерабатывать, а жертвы редко сообщают о потерях, потому что суммы небольшие, а стыд велик. Случаи подделки личности актрис появлялись неоднократно: исполнители из кино, телевидения и спорта обнаруживали свои изображения привязанными к продуктам, которых они никогда не касались.
Для У Юэ эпизод закончился исчезновением аккаунта. Для более широкой проблемы урок менее аккуратен. Инструменты обнаружения улучшаются, и платформы находятся под давлением, чтобы действовать быстро, когда публичная фигура высказывается. Но экономика по-прежнему благоприятствует мошенникам: один убедительный клип может транслироваться часами, прежде чем кто-либо заметит, а стоимость создания другого близка к нулю. Требование актрисы вернуть деньги может оказаться самой сложной частью всего этого.