OpenAI aggiunge watermark invisibili ai testi AI nell'UE
OpenAI ha iniziato ad aggiungere watermark invisibili e leggibili dalle macchine ai testi prodotti da alcuni dei suoi modelli, a partire dagli utenti nell’Unione Europea. L’azienda ha dichiarato che la mossa mira ad allinearsi ai requisiti di trasparenza dell’AI Act dell’UE, che chiedono ai fornitori di rendere identificabili i contenuti generati dall’AI. La funzione verrà attivata nell’UE nelle prossime settimane e, da ora, i clienti API globali possono anche scegliere di attivarla per modelli specifici.
La tecnica di watermarking si chiama textGrain. Anziché apporre un’etichetta visibile su un paragrafo, opera durante il processo di selezione delle parole del modello, intrecciando un segnale statistico nelle scelte che il modello compie mentre scrive. Un rilevatore che sa cosa cercare può leggere quel segnale e stabilire se una porzione di testo porta un watermark OpenAI. Per un lettore normale, il testo appare invariato.
Proprio questa sottigliezza è il punto. Le etichette visibili sono facili da rimuovere: un utente può copiare un paragrafo, chiedere a un altro modello di riscriverlo o semplicemente cancellare una nota a piè di pagina. Una traccia statistica nascosta è più difficile da eliminare senza alterare il testo stesso. Evita anche l’imbarazzo di interrompere un testo con un banner che dice che l’ha scritto una macchina, cosa che può risultare invasiva in una chat, in una bozza di email o in una riga di codice.
Il watermarking è comunque un compromesso tecnico più che un sigillo perfetto. Il rilevamento di solito richiede l’accesso allo strumento giusto, e i segnali possono indebolirsi quando il testo viene pesantemente modificato, tradotto o mescolato con scrittura umana. OpenAI ha presentato textGrain come uno strato di un più ampio sforzo di trasparenza, non come la garanzia che ogni frase assistita dall’AI possa essere tracciata. L’azienda non ha dichiarato che la marcatura si applicherà a ogni modello o a ogni regione, e il rollout nell’UE è descritto come applicabile agli output qualificanti di ChatGPT e Codex.
La dimensione UE è importante perché le regole del blocco sull’AI sono tra le prime a richiedere questo tipo di trasparenza dei contenuti ai principali fornitori di modelli. Le aziende che servono utenti europei hanno adeguato prodotti, documentazione e processi interni per conformarsi. Per OpenAI, aggiungere watermark è sia un passo verso la conformità sia un modo per testare come la tecnologia si comporta alla scala di un chatbot mainstream usato da centinaia di milioni di persone.
Per i clienti API, la possibilità di abilitare il watermarking su modelli selezionati offre alle aziende una leva. Un editore potrebbe voler contrassegnare il testo assistito dall’AI in modo che i suoi sistemi possano segnalarlo in seguito. Uno sviluppatore che crea uno strumento di scrittura potrebbe preferire di lasciarlo disattivato, a seconda del pubblico. Poiché l’impostazione è opzionale per gli utenti API al di fuori dell’UE, l’adozione varierà probabilmente per settore e per quanto un’azienda tenga alla provenienza.
Il watermarking è diventato uno degli angoli più attivi della ricerca sull’AI, con laboratori, università e organismi di standardizzazione che dibattono su come marcare i media sintetici senza romperli. Il testo è più difficile delle immagini: un’immagine può portare schemi nascosti nei pixel, ma le parole sono discrete e facilmente riorganizzabili. Approcci come textGrain cercano di far sopravvivere il marchio all’uso normale rimanendo invisibile ai lettori.
Se i watermark invisibili diventeranno un’aspettativa predefinita o svaniranno in uno strumento di conformità di nicchia dipenderà da quanto bene il rilevamento reggerà sul campo. Per ora, il rollout UE di OpenAI offre all’idea il suo più grande test nel mondo reale e dà agli sviluppatori globali un interruttore precoce con cui sperimentare.