OpenAI ajoute des filigranes invisibles au texte généré par IA dans l'UE
OpenAI a commencé à ajouter des filigranes invisibles et lisibles par machine au texte produit par certains de ses modèles, en commençant par les utilisateurs de l’Union européenne. L’entreprise a déclaré que cette mesure visait à se conformer aux exigences de transparence de la loi européenne sur l’IA, qui demandent aux fournisseurs de rendre identifiable le contenu généré par IA. La fonctionnalité est activée dans l’UE au cours des prochaines semaines, et dès maintenant, les clients de l’API mondiale peuvent également choisir de l’activer pour des modèles spécifiques.
La technique de filigrane s’appelle textGrain. Plutôt que d’apposer une étiquette visible sur un paragraphe, elle agit pendant le processus de sélection des mots du modèle, en tissant un signal statistique dans les choix que fait le modèle lorsqu’il écrit. Un détecteur qui sait quoi chercher peut lire ce signal et déterminer si un passage de texte porte un filigrane OpenAI. Pour un lecteur normal, le texte semble inchangé.
Cette subtilité est le but recherché. Les étiquettes visibles sont faciles à supprimer : un utilisateur peut copier un paragraphe, demander à un autre modèle de le réécrire ou simplement supprimer une note de bas de page. Une trace statistique cachée est plus difficile à retirer sans altérer le texte lui-même. Elle évite aussi la gêne d’interrompre un écrit avec une bannière indiquant qu’une machine l’a rédigé, ce qui peut être intrusif dans un chat, un brouillon d’e-mail ou une ligne de code.
Le filigrane reste néanmoins un compromis technique plutôt qu’un sceau parfait. La détection nécessite généralement l’accès à l’outil approprié, et les signaux peuvent s’affaiblir lorsque le texte est fortement modifié, traduit ou mélangé à une écriture humaine. OpenAI a présenté textGrain comme une couche d’un effort de transparence plus large plutôt que comme une garantie que chaque phrase assistée par IA puisse être tracée. L’entreprise n’a pas précisé que le marquage s’appliquera à tous les modèles ou à toutes les régions, et le déploiement dans l’UE est décrit comme s’appliquant aux sorties éligibles de ChatGPT et Codex.
La dimension européenne est importante car les règles de l’UE sur l’IA sont parmi les premières à exiger ce type de transparence de contenu de la part des principaux fournisseurs de modèles. Les entreprises qui servent des utilisateurs européens ont ajusté leurs produits, leur documentation et leurs processus internes pour s’y conformer. Pour OpenAI, l’ajout de filigranes est à la fois une étape de conformité et un moyen de tester le comportement de la technologie à l’échelle d’un chatbot grand public utilisé par des centaines de millions de personnes.
Pour les clients de l’API, la possibilité d’activer le filigrane sur certains modèles donne aux entreprises un levier. Un éditeur pourrait vouloir que le texte assisté par IA soit marqué afin que ses propres systèmes puissent le signaler plus tard. Un développeur créant un outil d’écriture pourrait préférer le désactiver, selon le public. Comme le paramètre est facultatif pour les utilisateurs de l’API en dehors de l’UE, l’adoption variera probablement selon le secteur et l’importance qu’une entreprise accorde à la provenance.
Le filigrane est devenu l’un des domaines les plus actifs de la recherche en IA, avec des laboratoires, des universités et des organismes de normalisation qui débattent de la manière de marquer les médias synthétiques sans les casser. Le texte est plus difficile que les images : une image peut porter des motifs de pixels cachés, mais les mots sont discrets et facilement réarrangés. Des approches comme textGrain tentent de faire survivre la marque à un usage normal tout en restant invisible pour les lecteurs.
Que les filigranes invisibles deviennent une attente par défaut ou se transforment en un outil de conformité de niche dépendra de la robustesse de la détection dans des conditions réelles. Pour l’instant, le déploiement d’OpenAI dans l’UE donne à cette idée son plus grand test réel à ce jour, et offre aux développeurs mondiaux un interrupteur précoce pour expérimenter.