चीनी अभिनेत्री ने अपने नाम पर स्किनकेयर बेचने वाले AI डीपफेक का पर्दाफाश किया

चीनी अभिनेत्री वू यू को यह जानने के लिए किसी विवादास्पद सुर्खी को पढ़ने की ज़रूरत नहीं पड़ी कि उन्हें स्किनकेयर बेचने के लिए “नियुक्त” किया गया था। उन्हें बस इसी के साथ नींद खुली। 18 अक्टूबर की शुरुआती घड़ियों में, मंच और पर्दे की कलाकार ने सोशल मीडिया पर एक वीडियो पोस्ट करते हुए पूछा कि किसने लाइवस्ट्रीम-शैली की बिक्री पिच के लिए उनकी आवाज़ और चेहरे को क्लोन करने के लिए AI का इस्तेमाल किया। “कौन मेरे नाम पर लोगों को पकड़ने और बुराई करने के लिए AI का इस्तेमाल कर रहा है?” उन्होंने लिखा, सीधे खाता संचालक को संबोधित करते हुए और दर्शकों से लिया गया पैसा लौटाने की मांग की।

संबंधित खाता, “सिस्टर हुआ की स्किनकेयर डायरी” नामक एक WeChat Channels पेज, ने एक क्लिप प्रकाशित की थी जिसमें एक सिंथेटिक “वू यू” ने वीडियो की शुरुआत में एक उत्पाद का समर्थन किया था। वीडियो फिर अभिनेत्री की वास्तविक सार्वजनिक कार्यक्रम फुटेज पर कट गया, जिसे एक क्लोन की गई आवाज़ के साथ जोड़ा गया था जो दावा कर रही थी कि वह प्रशंसकों को विशेष डील देने के लिए एक निर्माता के साथ काम कर रही है। यह पिच सेलिब्रिटी प्रशंसक कल्याण की परिचित भाषा पर टिकी थी, ऐसी शब्दावली जो दर्शकों को बिना सवाल किए किसी उत्पाद पर भरोसा करने के लिए मनाती है।

वू यू की प्रतिक्रिया तेज़ और सार्वजनिक थी। उन्होंने नकली क्लिप की स्क्रीन रिकॉर्डिंग पोस्ट की और स्पष्ट रूप से पूछा कि संचालक ने कितने लोगों को धोखा दिया और कितना पैसा इकट्ठा किया गया। कुछ ही घंटों के भीतर, WeChat Channels ने कहा कि उसने खाते को स्थायी रूप से प्रतिबंधित कर दिया है और उसकी सामग्री हटा दी है। 19 अक्टूबर को चीनी टेक आउटलेट्स द्वारा रिपोर्ट किए गए प्लेटफ़ॉर्म के बयान ने टेकडाउन की पुष्टि की, लेकिन इस बारे में कोई विवरण नहीं दिया कि क्या रिफंड मिलेगा या संचालक को आगे की कार्रवाई का सामना करना पड़ेगा।

यह घटना इस बात का ज्वलंत उदाहरण है कि कैसे सस्ते, विश्वसनीय AI वीडियो नवीनता से उपद्रव से सीधे धोखाधड़ी तक पहुंच गए हैं। पहचानने योग्य चेहरे को क्लोन करने के लिए कभी स्टूडियो और बजट की आवश्यकता होती थी। आज सार्वजनिक रूप से उपलब्ध कुछ तस्वीरें, कुछ सेकंड की रिकॉर्ड की गई आवाज़ और एक उपभोक्ता-स्तरीय उपकरण पर्याप्त है। सेलिब्रिटी आकर्षक लक्ष्य हैं क्योंकि उनके चेहरों में अंतर्निहित भरोसा होता है, और स्किनकेयर, सप्लीमेंट और स्वास्थ्य उत्पाद आकर्षक उत्पाद हैं क्योंकि मार्जिन अधिक होते हैं और खरीदार अक्सर वृद्ध दर्शक होते हैं जो सिंथेसाइज़्ड क्लिप के संकेतों को नहीं पहचान सकते।

चीन इस पर नियमों को सख्त कर रहा है। हाल के वर्षों में शुरू किए गए डीप सिंथेसिस पर नियमों के अनुसार AI-जनरेटेड सामग्री को स्पष्ट रूप से लेबल किया जाना चाहिए और प्लेटफ़ॉर्म को इसे बनाने वाले उपयोगकर्ताओं की पहचान सत्यापित करनी चाहिए। हालांकि, प्रवर्तन उपकरणों से पीछे रह गया है। धोखाधड़ी अक्सर शॉर्ट-वीडियो और लाइवस्ट्रीम प्लेटफ़ॉर्म पर सामने आती है जहां बिक्री तेज़ी से होती है, खाते पुनर्चक्रित किए जा सकते हैं और पीड़ित शायद ही कभी नुकसान की रिपोर्ट करते हैं क्योंकि रकम छोटी होती है और शर्मिंदगी बड़ी। अभिनेत्री की नकल के मामले बार-बार सामने आए हैं, जिसमें फिल्म, टेलीविजन और खेल की कलाकारों ने अपनी समानता को ऐसे उत्पादों से जुड़ा पाया जिन्हें उन्होंने कभी छुआ तक नहीं।

वू यू के लिए, यह प्रकरण खाते के गायब होने के साथ समाप्त हुआ। व्यापक समस्या के लिए, सबक कम सुव्यवस्थित है। पहचान उपकरण बेहतर हो रहे हैं, और जब कोई सार्वजनिक हस्ती बोलती है तो प्लेटफ़ॉर्म पर तेज़ी से कार्रवाई करने का दबाव है। लेकिन अर्थशास्त्र अभी भी धोखेबाज़ों के पक्ष में है: एक विश्वसनीय क्लिप किसी के ध्यान देने से पहले घंटों तक चल सकती है, और दूसरी बनाने की लागत लगभग शून्य है। अभिनेत्री की पैसा लौटाने की मांग शायद सबसे कठिन हिस्सा हो।