OpenAI, EU에서 AI 텍스트에 보이지 않는 워터마크 추가

OpenAI는 일부 모델이 생성한 텍스트에 보이지 않는 기계 판독 가능 워터마크를 추가하기 시작했으며, 우선 유럽연합 사용자를 대상으로 한다. 회사는 이 조치가 AI 생성 콘텐츠를 식별 가능하게 하도록 제공자에게 요구하는 EU AI법의 투명성 요건에 부합하기 위한 것이라고 밝혔다. 이 기능은 앞으로 몇 주에 걸쳐 EU에서 활성화되며, 이제 전 세계 API 고객도 특정 모델에 대해 이를 켤 수 있다.

이 워터마킹 기법은 textGrain이라고 불린다. 단락에 눈에 보이는 라벨을 찍는 대신, 모델의 단어 선택 과정에서 작동하여 모델이 글을 쓸 때 내리는 선택에 통계적 신호를 엮어 넣는다. 무엇을 찾아야 하는지 아는 탐지기는 그 신호를 읽고 텍스트의 한 부분이 OpenAI 워터마크를 포함하는지 판단할 수 있다. 일반 독자에게 텍스트는 변하지 않은 것처럼 보인다.

그 미묘함이 핵심이다. 눈에 보이는 라벨은 떼어내기 쉽다. 사용자는 단락을 복사하고, 다른 모델에 다시 쓰게 하고, 아니면 그냥 하단 주석을 삭제할 수 있다. 숨겨진 통계적 흔적은 텍스트 자체를 바꾸지 않고는 제거하기 어렵다. 또한 기계가 썼다고 알리는 배너로 글을 방해하는 어색함도 피할 수 있는데, 이는 채팅, 이메일 초안, 코드 한 줄에서 거슬릴 수 있다.

그럼에도 워터마킹은 완벽한 봉인이 아니라 기술적 타협이다. 탐지에는 보통 적절한 도구에 대한 접근이 필요하고, 텍스트가 크게 편집되거나 번역되거나 인간의 글과 섞이면 신호가 약해질 수 있다. OpenAI는 textGrain을 AI 지원 문장을 모두 추적할 수 있다는 보장이 아니라 더 넓은 투명성 노력의 한 층으로 규정했다. 회사는 이 표시가 모든 모델이나 모든 지역에 적용될 것이라고 말하지 않았으며, EU 출시는 해당되는 ChatGPT와 Codex 출력에 적용되는 것으로 설명된다.

EU라는 측면이 중요한 이유는 이 블록의 AI 규칙이 주요 모델 제공자에게 이런 종류의 콘텐츠 투명성을 요구한 최초의 규칙 중 하나이기 때문이다. 유럽 사용자에게 서비스를 제공하는 기업들은 제품, 문서, 내부 프로세스를 이에 맞게 조정해 왔다. OpenAI에게 워터마크 추가는 규정 준수 단계이자 수억 명이 사용하는 주류 챗봇 규모에서 이 기술이 어떻게 작동하는지 시험하는 방법이다.

API 고객에게 선택한 모델에서 워터마킹을 활성화할 수 있는 선택은 기업에 지렛대를 준다. 출판사는 AI 지원 텍스트에 표시를 하여 자사 시스템이 나중에 이를 플래그할 수 있기를 원할 수 있다. 글쓰기 도구를 만드는 개발자는 독자층에 따라 이를 꺼두는 편을 선호할 수 있다. EU 밖 API 사용자에게 이 설정은 선택 사항이므로, 도입은 업계와 기업이 출처를 얼마나 중시하는지에 따라 달라질 것이다.

워터마킹은 AI 연구에서 더 활발한 영역 중 하나가 되었으며, 연구소, 대학, 표준 기구들이 합성 미디어를 망가뜨리지 않고 표시하는 방법을 논의하고 있다. 텍스트는 이미지보다 어렵다. 그림은 숨겨진 픽셀 패턴을 담을 수 있지만, 단어는 이산적이고 쉽게 재배열된다. textGrain 같은 접근법은 독자에게 보이지 않으면서 정상적인 사용에서 살아남는 표시를 만들려고 한다.

보이지 않는 워터마크가 기본 기대가 될지, 아니면 틈새 규정 준수 도구로 사라질지는 탐지가 실제 환경에서 얼마나 잘 버티는지에 달려 있다. 현재로서는 OpenAI의 EU 출시가 이 아이디어에 지금까지 가장 큰 실제 테스트를 제공하고, 전 세계 개발자에게 실험할 수 있는 이른 스위치를 준다.