Attrice cinese smaschera un deepfake AI che vende prodotti per la cura della pelle a suo nome
L’attrice cinese Wu Yue non ha avuto bisogno di leggere un titolo scandalistico per scoprire di essere stata “assunta” per vendere prodotti per la cura della pelle. Le è bastato svegliarsi. Nelle prime ore del 18 ottobre, l’interprete teatrale e cinematografica ha pubblicato un video sui social media chiedendo chi avesse usato l’AI per clonare la sua voce e il suo volto per una vendita in stile livestream. “Chi sta usando l’AI per catturare persone e fare del male a mio nome?”, ha scritto, rivolgendosi direttamente al gestore dell’account e chiedendo che il denaro preso agli spettatori fosse restituito.
L’account in questione, una pagina WeChat Channels chiamata “Il diario di bellezza di Sorella Hua”, aveva pubblicato un video in cui una “Wu Yue” sintetica apriva il filmato sponsorizzando un prodotto. Il video passava poi a filmati autentici di eventi pubblici dell’attrice, abbinati a una voce clonata che affermava di collaborare con un produttore per offrire ai fan un’offerta speciale. La promozione si basava sul linguaggio familiare del benessere dei fan delle celebrità, quel tipo di fraseggio che persuade gli spettatori a fidarsi di un prodotto senza metterlo in dubbio.
La risposta di Wu Yue è stata rapida e pubblica. Ha pubblicato registrazioni dello schermo del clip falso e ha chiesto in modo diretto quante persone avesse truffato il gestore e quanto denaro fosse stato raccolto. Nel giro di poche ore, WeChat Channels ha dichiarato di aver bandito permanentemente l’account e cancellato i suoi contenuti. La dichiarazione della piattaforma, riportata dai media tecnologici cinesi il 19 ottobre, ha confermato la rimozione ma non ha fornito dettagli su eventuali rimborsi o su ulteriori azioni contro il gestore.
L’incidente è un esempio vivido di come i video AI economici e convincenti siano passati da novità a fastidio a vera e propria frode. Clonare un volto riconoscibile una volta richiedeva uno studio e un budget. Oggi bastano una manciata di foto disponibili pubblicamente, pochi secondi di parlato registrato e uno strumento di livello consumer. Le celebrità sono obiettivi attraenti perché i loro volti portano con sé una fiducia innata, e i prodotti per la cura della pelle, gli integratori e i prodotti per la salute sono prodotti attraenti perché i margini sono alti e gli acquirenti sono spesso spettatori più anziani che potrebbero non riconoscere i segnali di un clip sintetizzato.
La Cina sta stringendo le regole su questo. Le normative sulla sintesi profonda, introdotte negli ultimi anni, richiedono che i contenuti generati dall’AI siano chiaramente etichettati e che le piattaforme verifichino l’identità degli utenti che li producono. L’applicazione, tuttavia, è rimasta indietro rispetto agli strumenti. Le truffe emergono spesso su piattaforme di short-video e livestream dove le vendite avvengono rapidamente, gli account possono essere riciclati e le vittime raramente denunciano le perdite perché le somme sono piccole e l’imbarazzo è grande. I casi di impersonificazione di attrici sono emersi ripetutamente, con interpreti di cinema, televisione e sport che hanno scoperto le proprie sembianze associate a prodotti che non hanno mai toccato.
Per Wu Yue, l’episodio si è concluso con la scomparsa dell’account. Per il problema più ampio, la lezione è meno ordinata. Gli strumenti di rilevamento stanno migliorando e le piattaforme sono sotto pressione per agire rapidamente quando una figura pubblica si esprime. Ma l’economia favorisce ancora i truffatori: un singolo clip convincente può circolare per ore prima che qualcuno se ne accorga, e il costo per crearne un altro è vicino allo zero. La richiesta dell’attrice che il denaro venga restituito potrebbe essere la parte più difficile di tutte.