Chinese actrice ontmaskert AI-deepfake die skincareproducten in haar naam verkoopt
De Chinese actrice Wu Yue hoefde geen schandaalkop te lezen om erachter te komen dat ze was “ingehuurd” om skincareproducten te verkopen. Ze werd er gewoon mee wakker. In de vroege uren van 18 oktober plaatste de theater- en filmactrice een video op sociale media waarin ze vroeg wie AI had gebruikt om haar stem en gezicht te klonen voor een verkooppraatje in livestreamstijl. “Wie gebruikt AI om mensen te pakken en kwaad te doen in mijn naam?” schreef ze, terwijl ze zich rechtstreeks tot de beheerder van het account richtte en eiste dat het geld dat van kijkers was afgenomen, werd terugbetaald.
Het bewuste account, een WeChat Channels-pagina genaamd “Zus Hua’s Skincare Dagboek”, had een clip gepubliceerd waarin een synthetische “Wu Yue” de video opende door een product aan te prijzen. De video schakelde vervolgens over naar echte beelden van openbare evenementen van de actrice, gecombineerd met een gekloonde stem die beweerde dat ze samenwerkte met een fabrikant om fans een speciale deal te geven. De pitch leunde op de bekende taal van fanwelzijn van beroemdheden, het soort formulering dat kijkers overtuigt een product te vertrouwen zonder er vragen bij te stellen.
Wu Yue’s reactie was snel en publiekelijk. Ze plaatste schermopnamen van de nepclip en vroeg nadrukkelijk hoeveel mensen de beheerder had opgelicht en hoeveel geld er was opgehaald. Binnen enkele uren zei WeChat Channels dat het het account permanent had verbannen en de inhoud had verwijderd. De verklaring van het platform, waarover Chinese technologiemedia op 19 oktober berichtten, bevestigde de verwijdering maar gaf geen details over of er terugbetalingen zouden volgen of of de beheerder verdere maatregelen te wachten stond.
Het incident is een levendig voorbeeld van hoe goedkope, overtuigende AI-video’s zijn geëvolueerd van nieuwigheid naar overlast naar regelrechte fraude. Het klonen van een herkenbaar gezicht vereiste ooit een studio en een budget. Tegenwoordig heb je een handvol openbaar beschikbare foto’s, een paar seconden opgenomen spraak en een consumententool nodig. Beroemdheden zijn aantrekkelijke doelwitten omdat hun gezichten ingebouwd vertrouwen uitstralen, en skincare, supplementen en gezondheidsproducten zijn aantrekkelijke producten omdat de marges hoog zijn en kopers vaak oudere kijkers zijn die de signalen van een gesynthetiseerde clip mogelijk niet herkennen.
China heeft de regels hieromtrent aangescherpt. Regelgeving over diepe synthese, in de afgelopen jaren ingevoerd, vereist dat AI-gegenereerde inhoud duidelijk wordt gelabeld en dat platforms de identiteit verifiëren van gebruikers die deze produceren. De handhaving blijft echter achter bij de tools. Oplichting duikt vaak op op short-video- en livestreamplatforms waar verkopen snel gaan, accounts kunnen worden gerecycled en slachtoffers zelden verliezen melden omdat de bedragen klein zijn en de schaamte groot. Gevallen van imitatie van actrices zijn herhaaldelijk opgedoken, waarbij artiesten uit film, televisie en sport ontdekten dat hun gelijkenis werd gekoppeld aan producten die ze nooit hadden aangeraakt.
Voor Wu Yue eindigde de episode met het verdwijnen van het account. Voor het bredere probleem is de les minder netjes. Detectietools worden beter en platforms staan onder druk om snel te handelen wanneer een publiek figuur zich uitspreekt. Maar de economie begunstigt nog steeds de oplichters: één overtuigende clip kan urenlang rondgaan voordat iemand het merkt, en de kosten om er nog een te maken liggen bijna op nul. De eis van de actrice dat het geld wordt terugbetaald, is misschien wel het moeilijkste onderdeel van alles.