Chinesische Schauspielerin deckt KI-Deepfake auf, der Hautpflege unter ihrem Namen verkauft
Die chinesische Schauspielerin Wu Yue musste keine skandalöse Schlagzeile lesen, um zu erfahren, dass sie “engagiert” worden war, um Hautpflege zu verkaufen. Sie wachte einfach damit auf. In den frühen Morgenstunden des 18. Oktober postete die Bühnen- und Filmschauspielerin ein Video in den sozialen Medien, in dem sie fragte, wer KI benutzt hatte, um ihre Stimme und ihr Gesicht für einen Verkaufsauftritt im Livestream-Stil zu klonen. “Wer benutzt KI, um Leute zu ködern und in meinem Namen Böses zu tun?”, schrieb sie und wandte sich direkt an den Betreiber des Kontos mit der Forderung, das von den Zuschauern eingenommene Geld zurückzugeben.
Das fragliche Konto, eine WeChat-Channels-Seite namens “Schwester Huas Hautpflege-Tagebuch”, hatte einen Clip veröffentlicht, in dem eine synthetische “Wu Yue” das Video eröffnete und ein Produkt bewarb. Das Video wechselte dann zu echten Aufnahmen der Schauspielerin bei einer öffentlichen Veranstaltung, unterlegt mit einer geklonten Stimme, die behauptete, sie arbeite mit einem Hersteller zusammen, um Fans ein Sonderangebot zu machen. Der Verkaufsauftritt bediente sich der vertrauten Sprache der Promi-Fürsorge für Fans – jener Formulierungen, die Zuschauer dazu bringen, einem Produkt zu vertrauen, ohne es zu hinterfragen.
Wu Yues Reaktion war schnell und öffentlich. Sie postete Bildschirmaufnahmen des gefälschten Clips und fragte pointiert, wie viele Menschen der Betreiber betrogen habe und wie viel Geld eingenommen worden sei. Innerhalb von Stunden erklärte WeChat Channels, das Konto dauerhaft gesperrt und seine Inhalte entfernt zu haben. Die Erklärung der Plattform, über die chinesische Tech-Medien am 19. Oktober berichteten, bestätigte die Sperrung, machte aber keine Angaben dazu, ob Rückerstattungen folgen würden oder ob der Betreiber mit weiteren Konsequenzen rechnen müsse.
Der Vorfall ist ein anschauliches Beispiel dafür, wie billige, überzeugende KI-Videos von der Neuheit zum Ärgernis und schließlich zum offenen Betrug geworden sind. Das Klonen eines wiedererkennbaren Gesichts erforderte einst ein Studio und ein Budget. Heute genügen eine Handvoll öffentlich verfügbarer Fotos, ein paar Sekunden aufgezeichneter Sprache und ein Verbraucherwerkzeug. Prominente sind attraktive Ziele, weil ihre Gesichter eine eingebaute Vertrauenswürdigkeit ausstrahlen, und Hautpflege, Nahrungsergänzungsmittel und Gesundheitsprodukte sind attraktive Produkte, weil die Margen hoch sind und die Käufer oft ältere Zuschauer sind, die die Erkennungszeichen eines synthetisierten Clips möglicherweise nicht bemerken.
China hat die Regeln in diesem Bereich verschärft. Die in den letzten Jahren eingeführten Vorschriften zur tiefen Synthese verlangen, dass KI-generierte Inhalte klar gekennzeichnet werden und dass Plattformen die Identität der Nutzer überprüfen, die sie erstellen. Die Durchsetzung hinkt jedoch hinter den Werkzeugen her. Betrugsfälle tauchen oft auf Kurzvideo- und Livestream-Plattformen auf, wo Verkäufe schnell gehen, Konten recycelt werden können und Opfer Verluste selten melden, weil die Summen klein und die Peinlichkeit groß ist. Fälle von Schauspieler-Imitation sind immer wieder aufgetreten, wobei Film-, Fernseh- und Sportstars feststellen mussten, dass ihre Abbilder mit Produkten in Verbindung gebracht wurden, die sie nie angefasst hatten.
Für Wu Yue endete die Episode mit dem Verschwinden des Kontos. Für das größere Problem ist die Lehre weniger ordentlich. Erkennungswerkzeuge werden besser, und Plattformen stehen unter Druck, schnell zu handeln, wenn eine öffentliche Person sich äußert. Doch die Ökonomie begünstigt weiterhin die Betrüger: Ein einziger überzeugender Clip kann stundenlang laufen, bevor jemand ihn bemerkt, und die Kosten für einen weiteren liegen nahe bei null. Die Forderung der Schauspielerin nach Rückgabe des Geldes dürfte der schwierigste Teil von allen sein.