Nữ diễn viên Trung Quốc vạch trần deepfake AI bán mỹ phẩm dưới tên mình
Nữ diễn viên Trung Quốc Wu Yue không cần đọc một tiêu đề tai tiếng để biết rằng mình đã được “thuê” bán mỹ phẩm. Cô chỉ cần thức dậy và thấy nó. Vào rạng sáng ngày 18 tháng 10, nghệ sĩ sân khấu và màn ảnh này đã đăng một video trên mạng xã hội hỏi ai đã sử dụng AI để nhân bản giọng nói và khuôn mặt của cô cho một bài bán hàng kiểu livestream. “Ai đang dùng AI để lôi kéo người ta và làm điều ác dưới danh nghĩa của tôi?” cô viết, nhắm trực tiếp đến người điều hành tài khoản và yêu cầu trả lại tiền đã lấy từ người xem.
Tài khoản được đề cập, một trang WeChat Channels có tên “Sister Hua’s Skincare Diary”, đã đăng một đoạn clip trong đó một “Wu Yue” tổng hợp mở đầu video bằng cách quảng cáo một sản phẩm. Video sau đó chuyển sang cảnh quay thực tế từ sự kiện công khai của nữ diễn viên, kết hợp với giọng nói nhân bản tuyên bố rằng cô đang làm việc với một nhà sản xuất để mang đến cho người hâm mộ một ưu đãi đặc biệt. Bài quảng cáo dựa vào ngôn ngữ quen thuộc về phúc lợi người hâm mộ của người nổi tiếng, kiểu câu chữ thuyết phục người xem tin tưởng vào sản phẩm mà không đặt câu hỏi.
Phản ứng của Wu Yue nhanh chóng và công khai. Cô đăng video ghi màn hình của đoạn clip giả và đặt câu hỏi gay gắt về việc người điều hành đã lừa bao nhiêu người và thu bao nhiêu tiền. Trong vòng vài giờ, WeChat Channels cho biết đã cấm vĩnh viễn tài khoản và xóa nội dung của nó. Tuyên bố của nền tảng, được các phương tiện truyền thông công nghệ Trung Quốc đưa tin vào ngày 19 tháng 10, xác nhận việc gỡ bỏ nhưng không cung cấp chi tiết về việc liệu có hoàn tiền hay không hoặc liệu người điều hành có phải đối mặt với hành động pháp lý nào nữa không.
Sự việc này là một ví dụ sống động về cách video AI rẻ tiền và thuyết phục đã chuyển từ mới lạ sang phiền toái rồi thành gian lận trắng trợn. Việc nhân bản một khuôn mặt dễ nhận biết từng đòi hỏi một studio và ngân sách. Ngày nay chỉ cần một vài bức ảnh công khai, vài giây ghi âm giọng nói và một công cụ dành cho người tiêu dùng. Người nổi tiếng là mục tiêu hấp dẫn vì khuôn mặt của họ mang lại sự tin cậy sẵn có, và mỹ phẩm, thực phẩm chức năng và sản phẩm sức khỏe là những sản phẩm hấp dẫn vì biên lợi nhuận cao và người mua thường là người xem lớn tuổi, những người có thể không nhận ra dấu hiệu của một clip tổng hợp.
Trung Quốc đã thắt chặt các quy định về vấn đề này. Các quy định về tổng hợp sâu, được đưa ra trong những năm gần đây, yêu cầu nội dung do AI tạo ra phải được dán nhãn rõ ràng và các nền tảng phải xác minh danh tính của người dùng sản xuất nội dung đó. Tuy nhiên, việc thực thi vẫn chậm hơn so với các công cụ. Các vụ lừa đảo thường xuất hiện trên các nền tảng video ngắn và livestream, nơi việc bán hàng diễn ra nhanh chóng, tài khoản có thể được tái sử dụng và nạn nhân hiếm khi báo cáo thiệt hại vì số tiền nhỏ và nỗi xấu hổ lớn. Các vụ mạo danh nữ diễn viên đã xuất hiện lặp đi lặp lại, với các nghệ sĩ từ điện ảnh, truyền hình và thể thao phát hiện hình ảnh của họ bị gắn với những sản phẩm mà họ chưa từng động đến.
Đối với Wu Yue, sự việc kết thúc với việc tài khoản bị xóa. Đối với vấn đề rộng lớn hơn, bài học kém gọn gàng hơn. Các công cụ phát hiện đang được cải thiện và các nền tảng chịu áp lực phải hành động nhanh chóng khi một nhân vật công chúng lên tiếng. Nhưng kinh tế học vẫn có lợi cho những kẻ lừa đảo: một clip thuyết phục có thể tồn tại hàng giờ trước khi có ai đó nhận ra, và chi phí để tạo ra một clip khác gần như bằng không. Yêu cầu hoàn tiền của nữ diễn viên có thể là phần khó nhất trong tất cả.