Aktris Tiongkok Ungkap Deepfake AI yang Menjual Skincare atas Namanya

Aktris Tiongkok Wu Yue tidak perlu membaca berita skandal untuk mengetahui bahwa ia telah “dipekerjakan” untuk menjual skincare. Ia hanya terbangun dan mengetahuinya. Pada dini hari 18 Oktober, aktris panggung dan layar tersebut mengunggah video di media sosial yang menanyakan siapa yang telah menggunakan AI untuk mengkloning suara dan wajahnya untuk promosi penjualan bergaya livestream. “Siapa yang menggunakan AI untuk menangkap orang dan berbuat jahat atas namaku?” tulisnya, menyerukan langsung kepada operator akun dan menuntut agar uang yang diambil dari penonton dikembalikan.

Akun yang dimaksud, sebuah halaman WeChat Channels bernama “Sister Hua’s Skincare Diary,” telah menerbitkan klip di mana “Wu Yue” sintetis membuka video dengan mendukung sebuah produk. Video itu kemudian beralih ke rekaman acara publik asli sang aktris, dipasangkan dengan suara kloningan yang mengklaim bahwa ia bekerja sama dengan produsen untuk memberikan penawaran khusus bagi penggemar. Promosi itu menggunakan bahasa kesejahteraan penggemar selebriti yang familiar, jenis frasa yang membujuk penonton untuk mempercayai suatu produk tanpa mempertanyakannya.

Respons Wu Yue cepat dan publik. Ia mengunggah rekaman layar dari klip palsu tersebut dan bertanya dengan tajam berapa banyak orang yang telah ditipu operator dan berapa banyak uang yang telah dikumpulkan. Dalam hitungan jam, WeChat Channels mengatakan telah memblokir akun tersebut secara permanen dan membersihkan kontennya. Pernyataan platform tersebut, yang dilaporkan oleh media teknologi Tiongkok pada 19 Oktober, mengonfirmasi penghapusan itu tetapi tidak memberikan detail apakah pengembalian dana akan menyusul atau apakah operator menghadapi tindakan lebih lanjut.

Insiden ini adalah contoh nyata bagaimana video AI yang murah dan meyakinkan telah bergeser dari hal baru menjadi gangguan menjadi penipuan langsung. Mengkloning wajah yang dikenal dulu memerlukan studio dan anggaran. Hari ini cukup dengan beberapa foto yang tersedia untuk publik, beberapa detik rekaman suara, dan alat kelas konsumen. Selebriti adalah target yang menarik karena wajah mereka membawa kepercayaan bawaan, dan skincare, suplemen, serta produk kesehatan adalah produk yang menarik karena marginnya tinggi dan pembelinya sering kali penonton yang lebih tua yang mungkin tidak mengenali tanda-tanda klip sintetis.

Tiongkok telah memperketat aturan seputar hal ini. Regulasi tentang sintesis mendalam, yang diperkenalkan dalam beberapa tahun terakhir, mewajibkan konten yang dihasilkan AI diberi label yang jelas dan platform memverifikasi identitas pengguna yang memproduksinya. Namun, penegakan hukum tertinggal dari alat-alat tersebut. Penipuan sering muncul di platform video pendek dan livestream di mana penjualan terjadi cepat, akun dapat didaur ulang, dan korban jarang melaporkan kerugian karena jumlahnya kecil dan rasa malunya besar. Kasus peniruan aktris telah muncul berulang kali, dengan para pemain dari film, televisi, dan olahraga mendapati wajah mereka ditempelkan pada produk yang tidak pernah mereka sentuh.

Bagi Wu Yue, episode ini berakhir dengan hilangnya akun tersebut. Bagi masalah yang lebih luas, pelajarannya kurang rapi. Alat deteksi semakin membaik, dan platform berada di bawah tekanan untuk bertindak cepat ketika figur publik bersuara. Namun, ekonomi masih menguntungkan para penipu: satu klip yang meyakinkan dapat berjalan selama berjam-jam sebelum ada yang menyadarinya, dan biaya untuk membuat klip lain mendekati nol. Tuntutan aktris agar uang dikembalikan mungkin menjadi bagian tersulit dari semuanya.