Çinli aktris, adına cilt bakım ürünü satan AI deepfake'ini ifşa etti
Çinli aktris Wu Yue, cilt bakım ürünleri satmak için “işe alındığını” öğrenmek için skandal bir manşet okumak zorunda kalmadı. Sadece bununla uyandı. 18 Ekim’in ilk saatlerinde, sahne ve ekran sanatçısı sosyal medyada bir video paylaşarak, canlı yayın tarzı bir satış sunumu için sesini ve yüzünü klonlamak üzere AI’yı kimin kullandığını sordu. “Kim benim adıma insanları yakalamak ve kötülük yapmak için AI kullanıyor?” diye yazdı, doğrudan hesap operatörüne seslenerek izleyicilerden alınan paranın iade edilmesini talep etti.
Söz konusu hesap, “Hua Kardeş’in Cilt Bakım Günlüğü” adlı bir WeChat Channels sayfası, sentetik bir “Wu Yue”nin videoyu bir ürünü tanıtarak açtığı bir klip yayınlamıştı. Video daha sonra aktrisin gerçek halkla ilişkiler etkinliği görüntülerine geçiyor ve klonlanmış bir ses, hayranlara özel bir fırsat sunmak için bir üreticiyle çalıştığını iddia ediyordu. Sunum, ünlü hayran refahının tanıdık diline yaslanıyordu; izleyicileri bir ürüne sorgulamadan güvenmeye ikna eden türden bir ifade biçimi.
Wu Yue’nin yanıtı hızlı ve kamuya açık oldu. Sahte klibin ekran kayıtlarını paylaştı ve operatörün kaç kişiyi dolandırdığını ve ne kadar para toplandığını keskin bir şekilde sordu. Saatler içinde WeChat Channels, hesabı kalıcı olarak yasakladığını ve içeriğini temizlediğini açıkladı. 19 Ekim’de Çinli teknoloji yayınları tarafından bildirilen platformun açıklaması, kaldırmayı doğruladı ancak iade yapılıp yapılmayacağı veya operatörün daha fazla işlemle karşılaşıp karşılaşmayacağı konusunda ayrıntı vermedi.
Olay, ucuz ve ikna edici AI videolarının yenilikten rahatsızlığa ve açık dolandırıcılığa nasıl dönüştüğünün canlı bir örneğidir. Tanınabilir bir yüzü klonlamak bir zamanlar stüdyo ve bütçe gerektiriyordu. Bugün bir avuç kamuya açık fotoğraf, birkaç saniyelik kayıtlı konuşma ve tüketici düzeyinde bir araç yeterli. Ünlüler çekici hedeflerdir çünkü yüzleri yerleşik bir güven taşır ve cilt bakımı, takviyeler ve sağlık ürünleri çekici ürünlerdir çünkü kâr marjları yüksektir ve alıcılar genellikle sentezlenmiş bir klibin ipuçlarını tanımayabilecek daha yaşlı izleyicilerdir.
Çin bu konudaki kuralları sıkılaştırıyor. Son yıllarda getirilen derin sentez düzenlemeleri, AI tarafından oluşturulan içeriğin açıkça etiketlenmesini ve platformların bunu üreten kullanıcıların kimliğini doğrulamasını gerektiriyor. Ancak uygulama, araçların gerisinde kaldı. Dolandırıcılıklar genellikle satışların hızlı gerçekleştiği, hesapların geri dönüştürülebildiği ve mağdurların kayıpları nadiren bildirdiği kısa video ve canlı yayın platformlarında ortaya çıkıyor çünkü meblağlar küçük ve utanç büyük. Aktris taklidi vakaları defalarca ortaya çıktı; film, televizyon ve spordan sanatçılar, benzerliklerinin hiç dokunmadıkları ürünlere eklendiğini gördü.
Wu Yue için olay, hesabın ortadan kalkmasıyla sona erdi. Daha geniş sorun için ders daha az düzenli. Tespit araçları gelişiyor ve platformlar bir kamu figürü konuştuğunda hızlı hareket etme baskısı altında. Ancak ekonomi hâlâ dolandırıcıları kayırıyor: tek bir ikna edici klip, kimse fark etmeden saatlerce dolaşabilir ve bir yenisini yapmanın maliyeti neredeyse sıfırdır. Aktrisin paranın iade edilmesi talebi, belki de en zor kısmı olabilir.