OpenAI - Quand la course à l'IA rencontre l'imprudence et le secret

Dans les coulisses de l’entreprise d’intelligence artificielle de San Francisco, un groupe d'initiés tire la sonnette d'alarme sur ce qu'ils considèrent comme une culture de l'imprudence et du secret.

Quel est l’objectif d’OpenAI ? Construire les systèmes d'IA les plus puissants jamais créés. Oui, mais à quel prix ?

Composé de neuf employés anciens et actuels de l’entreprise, un groupe a récemment exprimé ses préoccupations communes, OpenAI n'en fait pas assez pour empêcher ses systèmes d'IA de devenir dangereux. Alors qu’elle n’était au départ qu’un laboratoire de recherche à but non lucratif, elle a, par la suite, fait sensation en 2022 avec la sortie de ChatGPT, et semble aujourd'hui donner la priorité aux profits et à la croissance au détriment de la sécurité. Son ambition ultime, développer une intelligence artificielle générale (AGI), capable de rivaliser avec l’intelligence humaine. Les membres du groupe dénoncent également des tactiques de dissuasion visant à empêcher les employés de soulever des préoccupations concernant la technologie, incluant des accords de non-dénigrement restrictifs pour les départs.