OpenAI, le géant de l'intelligence artificielle, est de nouveau sous les feux de la rampe en Europe, confronté à une plainte pour atteinte à la vie privée déposée par noyb, une organisation à but non lucratif dédiée aux droits de confidentialité. Elle cible spécifiquement les erreurs de données générées par ChatGPT, le chatbot IA de la société.
Elle a été déposée auprès de l'autorité autrichienne de protection des données par noyb au nom d'un plaignant qui a préféré rester anonyme après que ChatGPT ait incorrectement généré sa date de naissance. Selon le RGPD (Règlement Général sur la Protection des Données), les citoyens de l'UE ont le droit de faire corriger des données inexactes, un droit que l’organisation de défense affirme qu'OpenAI a failli à respecter. L'entreprise aurait refusé de la corriger, en justifiant que techniquement, il leur était impossible de le faire. À la place, elle a proposé de filtrer ou de bloquer les données basées sur certaines sollicitations, comme le nom du plaignant. Les enjeux de cette plainte dépassent la simple correction de données. Ils touchent à la manière dont les outils d'IA générative, tels que ChatGPT, opèrent et traitent les données personnelles dans l'UE, où les normes de protection sont particulièrement strictes. Les pénalités pour non-conformité au RGPD peuvent être sévères, atteignant jusqu'à 4 % du chiffre d'affaires annuel mondial d'une entreprise.
Face à l'accroissement des plaintes et des défis réglementaires, OpenAI a déjà été forcée de faire des ajustements après une intervention de l'autorité de protection des données en Italie. Sa politique de confidentialité permet aux utilisateurs de soumettre des demandes de correction, mais prévient que la complexité technique peut l'empêcher dans tous les cas. Maartje de Graaf, avocate spécialisée chez noyb, souligne l'importance d'aligner la technologie avec les exigences légales, plutôt que l'inverse. Elle critique la capacité actuelle des entreprises à faire en sorte que les chatbots respectent le droit de l'UE lorsqu'ils traitent des données sur des individus. En réponse, OpenAI a ouvert un bureau à Dublin, un mouvement stratégique visant à minimiser les risques réglementaires. Ce bureau permettrait de centraliser les plaintes relatives à la protection de la vie privée auprès de la Commission de Protection des Données d'Irlande, exploitant ainsi un mécanisme du RGPD qui facilite leur gestion transfrontalière.
Alors que la société de Sam Altman continue de naviguer dans le paysage complexe du RGPD en Europe, l'issue de ces plaintes et les décisions des autorités de protection des données pourraient avoir des implications profondes non seulement pour OpenAI, mais pour l'ensemble du secteur des technologies d'IA. La conformité ne se limite pas à éviter les amendes, mais exige une reconsidération profonde de la manière dont les données personnelles sont traitées et protégées aujourd'hui.
