Une actrice chinoise dénonce un deepfake IA qui vend des produits de soin en son nom
L’actrice chinoise Wu Yue n’a pas eu besoin de lire un titre scandaleux pour apprendre qu’elle avait été “embauchée” pour vendre des produits de soin. Elle s’est simplement réveillée avec la nouvelle. Aux premières heures du 18 octobre, l’artiste de théâtre et de cinéma a publié une vidéo sur les réseaux sociaux demandant qui avait utilisé l’IA pour cloner sa voix et son visage pour un argumentaire de vente en direct. “Qui utilise l’IA pour piéger les gens et faire le mal en mon nom ?” a-t-elle écrit, s’adressant directement à l’opérateur du compte et exigeant que l’argent pris aux spectateurs soit restitué.
Le compte en question, une page WeChat Channels appelée “Le journal de soins de la sœur Hua”, avait publié un clip dans lequel une “Wu Yue” synthétique ouvrait la vidéo en faisant la promotion d’un produit. La vidéo passait ensuite à des images authentiques de l’actrice lors d’un événement public, associées à une voix clonée affirmant qu’elle travaillait avec un fabricant pour offrir aux fans une offre spéciale. L’argumentaire s’appuyait sur le langage familier du bien-être des fans de célébrités, ce type de formulation qui persuade les spectateurs de faire confiance à un produit sans le remettre en question.
La réponse de Wu Yue a été rapide et publique. Elle a publié des captures d’écran du faux clip et a demandé avec insistance combien de personnes l’opérateur avait trompées et combien d’argent avait été collecté. En quelques heures, WeChat Channels a déclaré avoir banni définitivement le compte et supprimé son contenu. Le communiqué de la plateforme, rapporté par les médias technologiques chinois le 19 octobre, a confirmé le retrait mais n’a pas donné de détails sur d’éventuels remboursements ou sur d’autres mesures contre l’opérateur.
L’incident est un exemple frappant de la façon dont les vidéos IA bon marché et convaincantes sont passées de la nouveauté à la nuisance, puis à la fraude pure et simple. Cloner un visage reconnaissable nécessitait autrefois un studio et un budget. Aujourd’hui, il suffit de quelques photos disponibles publiquement, de quelques secondes de parole enregistrée et d’un outil grand public. Les célébrités sont des cibles attrayantes car leur visage inspire une confiance innée, et les produits de soin, les compléments alimentaires et les produits de santé sont des produits attrayants car les marges sont élevées et les acheteurs sont souvent des spectateurs plus âgés qui peuvent ne pas reconnaître les signes d’un clip synthétisé.
La Chine a renforcé les règles à ce sujet. Les réglementations sur la synthèse profonde, introduites ces dernières années, exigent que le contenu généré par IA soit clairement étiqueté et que les plateformes vérifient l’identité des utilisateurs qui le produisent. L’application de la loi a toutefois pris du retard sur les outils. Les escroqueries surgissent souvent sur les plateformes de vidéos courtes et de diffusion en direct où les ventes se font rapidement, où les comptes peuvent être recyclés et où les victimes signalent rarement les pertes car les sommes sont petites et l’embarras grand. Les cas d’usurpation d’identité d’actrices se sont multipliés, des artistes du cinéma, de la télévision et du sport voyant leurs images associées à des produits qu’ils n’ont jamais touchés.
Pour Wu Yue, l’épisode s’est terminé avec la disparition du compte. Pour le problème plus large, la leçon est moins nette. Les outils de détection s’améliorent et les plateformes sont sous pression pour agir rapidement lorsqu’une personnalité publique s’exprime. Mais l’économie favorise toujours les escrocs : un seul clip convaincant peut rester en ligne pendant des heures avant que quiconque ne le remarque, et le coût d’en fabriquer un autre est proche de zéro. L’exigence de l’actrice que l’argent soit restitué pourrait bien être la partie la plus difficile.