OpenAI、EUでAIテキストに不可視の透かしを追加

OpenAIは、一部のモデルが生成するテキストに、不可視で機械可読な透かしを追加し始めた。まずは欧州連合のユーザーが対象となる。同社は、この動きがAI生成コンテンツを識別可能にするようプロバイダーに求めるEU AI法の透明性要件に沿うものだと述べた。この機能は今後数週間でEUで有効化され、今後は世界中のAPI顧客も特定のモデルで有効にできる。

この透かし技術はtextGrainと呼ばれる。段落に目に見えるラベルを押すのではなく、モデルが単語を選択する過程で機能し、モデルが書く際に行う選択に統計的シグナルを織り込む。何を探すべきか知っている検出器はそのシグナルを読み取り、テキストの一節がOpenAIの透かしを含むかどうかを判断できる。通常の読者には、テキストは変わらないように見える。

その微妙さが要点だ。目に見えるラベルは簡単に剥がせる。ユーザーは段落をコピーし、別のモデルに書き直させ、あるいはフッターの注記を削除するだけでよい。隠された統計的痕跡は、テキスト自体を変えずに除去するのが難しい。また、機械が書いたと告げるバナーで文章を中断する不格好さも避けられる。これはチャット、メールの下書き、コードの一行では煩わしいことがある。

それでも透かしは完全な封印ではなく、技術的な妥協である。検出には通常、適切なツールへのアクセスが必要で、テキストが大幅に編集されたり、翻訳されたり、人間の文章と混ざったりすると、シグナルは弱まることがある。OpenAIはtextGrainを、AI支援されたすべての文を追跡できるという保証ではなく、より広範な透明性への取り組みの一層として位置づけている。同社は、このマーキングがすべてのモデルや地域に適用されるとは述べておらず、EUでの展開は対象となるChatGPTとCodexの出力に適用されると説明されている。

EUという側面が重要であるのは、同ブロックのAI規則が、主要なモデルプロバイダーにこの種のコンテンツ透明性を求める最初のものの一つだからだ。欧州のユーザーにサービスを提供する企業は、製品、文書、内部プロセスを合わせて調整してきた。OpenAIにとって、透かしの追加はコンプライアンスの一歩であると同時に、何億人もの人々が使う主流のチャットボットの規模でこの技術がどう振る舞うかを試す方法でもある。

API顧客にとって、選択したモデルで透かしを有効にする選択肢は、企業にレバーを与える。出版社は、AI支援テキストにマークを付けて、自社のシステムが後でそれをフラグ立てできるようにしたいかもしれない。執筆ツールを開発する開発者は、読者層に応じてオフのままにしておくことを好むかもしれない。EU外のAPIユーザーにとって設定は任意であるため、採用は業界や、企業が来歴をどれだけ重視するかによって異なるだろう。

透かしはAI研究の中でも活発な分野の一つとなっており、研究所、大学、標準化団体が、合成メディアを壊さずにマークする方法を議論している。テキストは画像より難しい。画像は隠されたピクセルパターンを運ぶことができるが、単語は離散的で簡単に並べ替えられる。textGrainのようなアプローチは、読者には見えないまま、通常の使用に耐えるマークを作ろうとしている。

不可視の透かしがデフォルトの期待となるのか、ニッチなコンプライアンスツールに消えていくのかは、検出が実世界でどれだけ持ちこたえるかにかかっている。今のところ、OpenAIのEU展開はこのアイデアにこれまでで最大の実世界テストを与え、世界中の開発者に実験するための早期のスイッチを提供している。