OpenAI fügt KI-Texten in der EU unsichtbare Wasserzeichen hinzu
OpenAI hat begonnen, unsichtbare, maschinenlesbare Wasserzeichen in Texte einzufügen, die von einigen seiner Modelle erzeugt werden, beginnend mit Nutzern in der Europäischen Union. Das Unternehmen erklärte, der Schritt solle die Transparenzanforderungen des EU-KI-Gesetzes erfüllen, das Anbieter dazu verpflichtet, KI-generierte Inhalte identifizierbar zu machen. Die Funktion wird in den kommenden Wochen in der EU aktiviert, und ab sofort können auch globale API-Kunden sie für bestimmte Modelle einschalten.
Die Wasserzeichen-Technik heißt textGrain. Statt eine sichtbare Kennzeichnung auf einen Absatz zu stempeln, wirkt sie während des Wortauswahlprozesses des Modells und webt ein statistisches Signal in die Entscheidungen ein, die das Modell beim Schreiben trifft. Ein Detektor, der weiß, wonach er suchen muss, kann dieses Signal lesen und entscheiden, ob ein Textabschnitt ein OpenAI-Wasserzeichen trägt. Für einen normalen Leser sieht der Text unverändert aus.
Diese Subtilität ist der Punkt. Sichtbare Kennzeichnungen lassen sich leicht entfernen: Ein Nutzer kann einen Absatz kopieren, ein anderes Modell um eine Umschreibung bitten oder einfach eine Fußnote löschen. Eine versteckte statistische Spur ist schwerer zu entfernen, ohne den Text selbst zu verändern. Sie vermeidet auch die Unannehmlichkeit, einen Text mit einem Banner zu unterbrechen, das besagt, dass eine Maschine ihn geschrieben hat, was in einem Chat, einem E-Mail-Entwurf oder einer Codezeile störend sein kann.
Wasserzeichen sind dennoch ein technischer Kompromiss und kein perfektes Siegel. Die Erkennung erfordert in der Regel Zugang zum richtigen Werkzeug, und Signale können schwächer werden, wenn Text stark bearbeitet, übersetzt oder mit menschlichem Schreiben vermischt wird. OpenAI hat textGrain als eine Ebene in einem breiteren Transparenzbemühen dargestellt und nicht als Garantie, dass jeder KI-unterstützte Satz nachverfolgt werden kann. Das Unternehmen hat nicht gesagt, dass die Markierung für jedes Modell oder jede Region gilt, und der EU-Rollout wird als Anwendung auf qualifizierte ChatGPT- und Codex-Ausgaben beschrieben.
Die EU-Dimension ist wichtig, weil die KI-Regeln des Blocks zu den ersten gehören, die diese Art von Inhaltstransparenz von großen Modellanbietern verlangen. Unternehmen, die europäische Nutzer bedienen, haben Produkte, Dokumentation und interne Prozesse angepasst. Für OpenAI ist das Hinzufügen von Wasserzeichen sowohl ein Compliance-Schritt als auch eine Möglichkeit zu testen, wie sich die Technologie im Maßstab eines Mainstream-Chatbots verhält, der von Hunderten Millionen Menschen genutzt wird.
Für API-Kunden gibt die Möglichkeit, Wasserzeichen für ausgewählte Modelle zu aktivieren, Unternehmen einen Hebel. Ein Verlag könnte KI-unterstützten Text markieren wollen, damit seine eigenen Systeme ihn später kennzeichnen können. Ein Entwickler, der ein Schreibwerkzeug baut, könnte es je nach Zielgruppe lieber deaktiviert lassen. Da die Einstellung für API-Nutzer außerhalb der EU optional ist, wird die Akzeptanz je nach Branche und danach variieren, wie wichtig einem Unternehmen die Herkunft ist.
Wasserzeichen sind zu einem der aktivsten Bereiche der KI-Forschung geworden, in dem Labore, Universitäten und Normungsgremien darüber diskutieren, wie synthetische Medien markiert werden können, ohne sie zu zerstören. Text ist schwieriger als Bilder: Ein Bild kann versteckte Pixelmuster tragen, aber Wörter sind diskret und leicht umzustellen. Ansätze wie textGrain versuchen, die Markierung den normalen Gebrauch überstehen zu lassen und gleichzeitig für Leser unsichtbar zu bleiben.
Ob unsichtbare Wasserzeichen zu einer Standarderwartung werden oder zu einem Nischen-Compliance-Tool verblassen, hängt davon ab, wie gut die Erkennung in der Praxis standhält. Vorerst gibt OpenAIs EU-Rollout der Idee ihren bisher größten Praxistest und bietet globalen Entwicklern einen frühen Schalter zum Experimentieren.