OpenAI 在歐盟為 AI 文字加入隱形浮水印

OpenAI 已開始為旗下部分模型產生的文字加入隱形、機器可讀的浮水印，首先從歐盟用戶開始。該公司表示，此舉是為了符合歐盟《人工智慧法》的透明度要求，該法要求供應商讓 AI 生成的內容可被辨識。這項功能將在未來數週內於歐盟啟用，而從現在起，全球 API 客戶也可選擇為特定模型開啟此功能。

這項浮水印技術名為 textGrain。它不是在段落上蓋上可見標籤，而是在模型的選詞過程中運作，將統計訊號織入模型寫作時所做的選擇中。知道該尋找什麼的偵測器可以讀取該訊號，並判斷一段文字是否帶有 OpenAI 浮水印。對一般讀者而言，文字看起來毫無變化。

這種細微正是重點。可見標籤很容易被移除：使用者可以複製一段文字、請另一個模型改寫，或直接刪除頁尾註記。隱藏的統計痕跡則較難在不改動文字本身的情況下移除。它也避免了用寫著「機器撰寫」的橫幅打斷文章的尷尬，因為那在聊天、電子郵件草稿或一行程式碼中可能很擾人。

儘管如此，浮水印仍是技術上的折衷，而非完美的封印。偵測通常需要取得正確的工具，而當文字被大幅編輯、翻譯或與人類撰寫的內容混合時，訊號可能減弱。OpenAI 將 textGrain 定位為更廣泛透明度努力中的一層，而非保證每一句 AI 輔助的句子都能被追溯。該公司並未表示這項標記會適用於每一個模型或每一個地區，而歐盟的推行被描述為適用於符合條件的 ChatGPT 與 Codex 輸出。

歐盟這一環很重要，因為該集團的 AI 規則是最早要求大型模型供應商做到這類內容透明度的規範之一。服務歐洲用戶的企業一直在調整產品、文件與內部流程以配合。對 OpenAI 而言，加入浮水印既是合規的一步，也是測試這項技術在數億人使用的主流聊天機器人規模下如何運作的方式。

對 API 客戶而言，可選擇在特定模型上啟用浮水印，為企業提供了一項槓桿。出版商可能希望 AI 輔助的文字被標記，以便自家系統日後能加以標示。開發寫作工具的開發者則可能偏好關閉它，取決於受眾。由於這項設定對歐盟以外的 API 使用者是選用的，採用情況很可能因產業而異，也取決於企業有多在意內容出處。

浮水印已成為 AI 研究中較活躍的領域之一，各實驗室、大學與標準機構都在辯論如何在不破壞合成媒體的情況下加以標記。文字比圖像更難：一張圖片可以帶有隱藏的像素圖案，但詞語是離散的，且容易被重新排列。像 textGrain 這樣的方法試圖讓標記在正常使用下仍能留存，同時對讀者保持隱形。

隱形浮水印會成為預設期待，還是逐漸淪為小眾的合規工具，將取決於偵測在真實環境中能撐多久。目前，OpenAI 在歐盟的推行給了這個構想迄今最大規模的真實世界測試，也給了全球開發者一個可及早實驗的開關。