OpenAI voegt onzichtbare watermerken toe aan AI-tekst in de EU
OpenAI is begonnen met het toevoegen van onzichtbare, machineleesbare watermerken aan tekst die door sommige van zijn modellen wordt geproduceerd, te beginnen met gebruikers in de Europese Unie. Het bedrijf zegt dat de stap bedoeld is om te voldoen aan de transparantievereisten van de EU AI Act, die aanbieders vragen om AI-gegenereerde content identificeerbaar te maken. De functie wordt in de komende weken in de EU ingeschakeld, en vanaf nu kunnen wereldwijde API-klanten deze ook aanzetten voor specifieke modellen.
De watermerktechniek heet textGrain. In plaats van een zichtbaar label op een alinea te stempelen, werkt het tijdens het woordselectieproces van het model, waarbij een statistisch signaal wordt verweven in de keuzes die het model maakt tijdens het schrijven. Een detector die weet waar hij naar moet zoeken, kan dat signaal lezen en beslissen of een stuk tekst een OpenAI-watermerk draagt. Voor een normale lezer ziet de tekst er onveranderd uit.
Die subtiliteit is juist het punt. Zichtbare labels zijn gemakkelijk te verwijderen: een gebruiker kan een alinea kopiëren, een ander model vragen deze te herschrijven of simpelweg een voetnoot verwijderen. Een verborgen statistisch spoor is moeilijker te verwijderen zonder de tekst zelf te veranderen. Het vermijdt ook de ongemakkelijkheid van het onderbreken van een tekst met een banner die zegt dat een machine hem heeft geschreven, wat opdringerig kan zijn in een chat, een concept-e-mail of een regel code.
Watermerken zijn niettemin een technisch compromis in plaats van een perfect zegel. Detectie vereist meestal toegang tot het juiste hulpmiddel, en signalen kunnen verzwakken wanneer tekst zwaar wordt bewerkt, vertaald of vermengd met menselijk schrijven. OpenAI heeft textGrain gepresenteerd als één laag in een bredere transparantie-inspanning, niet als een garantie dat elke AI-ondersteunde zin kan worden getraceerd. Het bedrijf heeft niet gezegd dat de markering op elk model of elke regio van toepassing zal zijn, en de EU-uitrol wordt beschreven als van toepassing op in aanmerking komende ChatGPT- en Codex-output.
De EU-dimensie is belangrijk omdat de AI-regels van het blok tot de eerste behoren die dit soort contenttransparantie van grote modelaanbieders eisen. Bedrijven die Europese gebruikers bedienen, hebben producten, documentatie en interne processen aangepast om daaraan te voldoen. Voor OpenAI is het toevoegen van watermerken zowel een compliance-stap als een manier om te testen hoe de technologie zich gedraagt op de schaal van een mainstream chatbot die door honderden miljoenen mensen wordt gebruikt.
Voor API-klanten geeft de keuze om watermerken in te schakelen op geselecteerde modellen bedrijven een hefboom. Een uitgever wil AI-ondersteunde tekst misschien laten markeren zodat zijn eigen systemen die later kunnen signaleren. Een ontwikkelaar die een schrijftool bouwt, laat het misschien liever uit, afhankelijk van het publiek. Omdat de instelling optioneel is voor API-gebruikers buiten de EU, zal de adoptie waarschijnlijk variëren per sector en per hoeveel een bedrijf om herkomst geeft.
Watermerken zijn een van de actievere hoeken van AI-onderzoek geworden, waarbij labs, universiteiten en normalisatie-instellingen debatteren over hoe synthetische media te markeren zonder ze te breken. Tekst is moeilijker dan afbeeldingen: een afbeelding kan verborgen pixelpatronen dragen, maar woorden zijn discreet en gemakkelijk te herschikken. Benaderingen zoals textGrain proberen het merkteken normaal gebruik te laten overleven terwijl het onzichtbaar blijft voor lezers.
Of onzichtbare watermerken een standaardverwachting worden of vervagen tot een niche-compliance-tool, zal afhangen van hoe goed detectie in de praktijk standhoudt. Voorlopig geeft OpenAI’s EU-uitrol het idee zijn grootste praktijktest tot nu toe, en geeft wereldwijde ontwikkelaars een vroege schakelaar om mee te experimenteren.