Les textes générés par ChatGPT bientôt marqués d’un filigrane invisible

OpenAI prépare le déploiement d’un nouveau système de traçabilité pour certains textes générés par ChatGPT et Codex dans l’Union européenne. Dans une annonce publiée lundi, l’entreprise indique que ce dispositif sera progressivement intégré au cours des prochaines semaines et concernera les utilisateurs éligibles de ses services dans l’UE.

L’objectif est de permettre à des systèmes informatiques d’identifier plus facilement les contenus produits par une intelligence artificielle. Cette mesure répond aux nouvelles règles européennes sur l’IA, regroupées dans l’AI Act, qui imposent davantage de transparence sur les contenus générés par ces technologies.

Pour l’utilisateur, aucun signe particulier n’apparaîtra à l’écran. Les réponses de ChatGPT ne porteront ni mention « généré par une intelligence artificielle », ni logo, ni symbole visible. Le texte conservera son apparence habituelle tout en intégrant un signal technique pouvant être reconnu par un outil spécialisé.

Un filigrane intégré au choix des mots

La technologie développée par OpenAI, baptisée textGrain, ne repose pas sur l’ajout de caractères cachés ou d’espaces invisibles. Elle intervient directement dans la manière dont le modèle sélectionne les mots lorsqu’il génère une réponse.

textGrain oriente légèrement certains choix de formulation afin de créer un motif statistique imperceptible à la lecture, mais identifiable par un détecteur adapté. Comme ce marquage est intégré à la construction même du texte, un simple copier-coller ne devrait pas suffire à le supprimer.

Le dispositif peut ainsi aider à déterminer si un passage a été généré ou traité par un outil d’OpenAI. Il ne permettra toutefois pas d’identifier la personne qui a utilisé ChatGPT, de connaître les instructions données au modèle ou de déterminer précisément les modifications apportées ensuite par un humain.

Une détection moins fiable après une réécriture

L’efficacité du système dépend notamment de la longueur du texte et des modifications qui lui sont apportées. OpenAI indique que les contenus courts et les textes fortement réécrits sont plus difficiles à détecter.

Lors de tests réalisés sur des passages d’environ 400 tokens, le taux de détection atteignait près de 92% dans certaines conditions. Il descendait à environ 66% lorsque 10% des mots étaient remplacés par des synonymes et à 17% lorsque cette proportion atteignait 25%.

La traduction ou une réécriture importante peuvent également réduire la capacité du détecteur à retrouver le filigrane. L’absence de signal ne permettra donc pas de conclure automatiquement qu’un texte a été rédigé par une personne, tandis qu’OpenAI reconnaît également la possibilité de faux positifs.

Le détecteur associé à textGrain ne sera pas accessible immédiatement au grand public. OpenAI prévoit d’en réserver dans un premier temps l’accès à certains chercheurs et organismes spécialisés afin de poursuivre son évaluation.

En parallèle du déploiement prévu dans l’Union européenne, certains clients de l’API d’OpenAI pourront choisir d’activer ce système sur des modèles compatibles, la fonctionnalité restant désactivée par défaut. L’entreprise prévoit également de rendre textGrain disponible en open source, afin de permettre l’étude et le développement de cette technologie de traçabilité.