중국 여배우, AI 딥페이크로 자신의 이름을 도용한 스킨케어 판매 폭로

중국 여배우 우웨는 스킨케어 제품 판매에 “고용”되었다는 사실을 알기 위해 스캔들 헤드라인을 읽을 필요가 없었다. 그녀는 단지 잠에서 깨어 그것을 알게 되었다. 10월 18일 이른 시간, 연극과 영화에서 활동하는 그녀는 소셜 미디어에 동영상을 게시하며 누가 AI를 사용해 자신의 목소리와 얼굴을 복제하여 라이브 방송 스타일의 판매 홍보에 사용했는지 물었다. “누가 AI를 사용해 사람들을 속이고 내 이름으로 악행을 저지르는가?”라고 그녀는 계정 운영자에게 직접 물으며 시청자들에게서 빼앗은 돈을 돌려줄 것을 요구했다.

문제의 계정은 ‘화 자매의 스킨케어 일기’라는 위챗 채널 페이지로, 합성된 ‘우웨’가 제품을 홍보하며 동영상을 시작하는 클립을 게시했다. 그런 다음 동영상은 여배우의 실제 공개 행사 영상으로 전환되었고, 복제된 목소리로 그녀가 제조업체와 협력하여 팬들에게 특별한 거래를 제공한다고 주장했다. 이 홍보는 유명인의 팬 복지라는 익숙한 언어에 의존했으며, 시청자들이 의문을 품지 않고 제품을 신뢰하도록 설득하는 종류의 표현이었다.

우웨의 대응은 신속하고 공개적이었다. 그녀는 가짜 클립의 화면 녹화를 게시하고 운영자가 몇 명을 속였으며 얼마나 많은 돈을 모았는지 날카롭게 물었다. 몇 시간 만에 위챗 채널은 해당 계정을 영구 차단하고 콘텐츠를 삭제했다고 밝혔다. 10월 19일 중국 기술 매체들이 보도한 플랫폼의 성명은 삭제를 확인했지만 환불이 이루어질지 또는 운영자가 추가 조치를 받을지에 대한 세부 사항은 제공하지 않았다.

이 사건은 저렴하고 설득력 있는 AI 동영상이 신기함에서 성가심으로, 그리고 완전한 사기로 어떻게 이동했는지를 생생하게 보여주는 예이다. 한때 인식 가능한 얼굴을 복제하려면 스튜디오와 예산이 필요했다. 오늘날에는 공개적으로 이용 가능한 사진 몇 장, 녹음된 음성 몇 초, 그리고 소비자용 도구만 있으면 된다. 유명인은 그들의 얼굴이 내재된 신뢰를 지니기 때문에 매력적인 표적이며, 스킨케어, 보충제 및 건강 제품은 마진이 높고 구매자가 종종 합성 클립의 징후를 인식하지 못할 수 있는 고령 시청자인 경우가 많기 때문에 매력적인 제품이다.

중국은 이에 대한 규칙을 강화해 왔다. 최근 몇 년 동안 도입된 딥 합성에 관한 규정은 AI 생성 콘텐츠에 명확한 라벨을 표시하고 플랫폼이 이를 생산하는 사용자의 신원을 확인하도록 요구한다. 그러나 집행은 도구보다 뒤처져 있다. 사기는 종종 짧은 동영상 및 라이브 방송 플랫폼에서 표면화되며, 판매는 빠르게 이루어지고 계정은 재활용될 수 있으며 피해자는 금액이 작고 창피함이 크기 때문에 손실을 거의 보고하지 않는다. 여배우 사칭 사례는 반복적으로 발생했으며, 영화, TV 및 스포츠 연예인들이 자신이 한 번도 접한 적 없는 제품에 자신의 초상이 연결되는 것을 발견했다.

우웨에게 이 사건은 계정이 사라지는 것으로 끝났다. 더 넓은 문제에 대한 교훈은 그렇게 깔끔하지 않다. 탐지 도구는 개선되고 있으며 플랫폼은 공인이 목소리를 낼 때 신속하게 행동해야 한다는 압력을 받고 있다. 그러나 경제성은 여전히 사기꾼에게 유리하다. 하나의 설득력 있는 클립은 누군가가 알아차리기 전에 몇 시간 동안 유지될 수 있으며, 또 다른 클립을 만드는 비용은 거의 제로에 가깝다. 돈을 돌려달라는 여배우의 요구는 모든 것 중 가장 어려운 부분일 수 있다.