Transparence de l'IA - OpenAI face à un choix important

Entre éthique et business, le dilemme du watermarking pour ChatGPT.

Comment distinguer un texte généré par l'IA de celui écrit par un humain ? OpenAI, l'entreprise derrière le célèbre ChatGPT, se trouve au cœur de ce débat, jonglant entre responsabilité éthique et considérations commerciales. Selon un récent article du Wall Street Journal, elle aurait développé, il y a environ un an, un système de watermarking (filigrane numérique) pour les textes créés par ChatGPT, ainsi qu'un outil pour le détecter. Les équipes sont cependant divisées en interne quant à la pertinence de les rendre public. Le watermarking fonctionne en ajustant la façon dont le modèle prédit les mots et phrases les plus probables qui suivront les précédents, créant ainsi un motif détectable. Bien que cette explication soit simplifiée, elle permet de comprendre le principe de base.

Les avantages potentiels

La mise à disposition d'un moyen de détecter le contenu généré pourrait être une aubaine pour de nombreux secteurs, en particulier l'éducation. Les enseignants, par exemple, pourraient utiliser cet outil pour dissuader les étudiants de soumettre des devoirs entièrement rédigés par l'IA. Le Wall Street Journal rapporte qu'OpenAI a constaté que le watermarking n'affectait pas la qualité du texte produit par son chatbot. De plus, une enquête commandée par l'entreprise a révélé un soutien massif à l'idée d'un outil de détection.

La société de Sam Altman a confirmé avoir travaillé sur le watermarking de texte dans une mise à jour de son blog. Elle affirme que sa méthode est très précise, avec une efficacité de 99,9%. Elle serait également résistante à la falsification, comme la paraphrase. OpenAI souligne malgré tout que des techniques telles que la reformulation avec un autre modèle rendent la méthode contournable.

Le dilemme commercial

Malgré les avantages évidents, OpenAI semble préoccupée par l'impact potentiel de l’outil sur son activité. Une enquête auprès des utilisateurs de ChatGPT a révélé qu'environ 30% d'entre eux utiliseraient moins le logiciel si le watermarking était mis en place. Cette réticence place la société dans une position délicate. D'un côté, elle a la responsabilité éthique de fournir des moyens de distinguer le contenu généré par l'IA. De l'autre, elle doit préserver sa base d'utilisateurs et sa rentabilité.

Face à ce dilemme, certains de ses employés estiment toujours que le watermarking est efficace. Cependant, compte tenu des réserves exprimées par les utilisateurs, d'autres ont suggéré d'explorer des méthodes potentiellement moins controversées mais non éprouvées. Dans sa mise à jour de blog, l’entreprise déclare être aux premiers stades de l'exploration de l'intégration de métadonnées. Elle admet aussi qu'il est trop tôt pour évaluer l'efficacité de cette approche, mais souligne que, étant cryptographiquement signée, elle n'engendrerait pas de faux positifs.

Les enjeux pour l'avenir

Le débat autour du watermarking et de la détection de l'IA soulève des questions fondamentales sur l'avenir de la création de contenu et de l'interaction homme-machine. Comment trouver un équilibre entre la transparence nécessaire et la préservation de l'utilité des outils d'IA ? Comment protéger les créateurs humains tout en favorisant l'innovation technologique ? La décision d'OpenAI concernant le déploiement de son système pourrait avoir des répercussions importantes sur l'industrie et au-delà. Elle pourrait influencer la façon dont d'autres entreprises technologiques abordent cette question et façonner les futures réglementations dans ce domaine.