Le mystère entourant le projet Q* d'OpenAI

La réintégration du PDG d'OpenAI, Sam Altman, laisse une question en suspens: pourquoi a-t-il été licencié ? 



Des rapports récents ont mis en lumière un mystérieux projet connu en interne sous le nom de « Q* », qui pourrait détenir certains éléments de réponses.


Un développement qui change la donne

Le projet Q* est une initiative feutrée au sein d'OpenAI qui excellerait dans l'apprentissage et l'exécution des mathématiques, en particulier au niveau de l'école primaire. Bien que cela puisse paraître inoffensif à première vue, l'existence du projet était suffisamment alarmante pour inciter plusieurs chercheurs du personnel à écrire une lettre au conseil d'administration pour exprimer leurs inquiétudes quant à son potentiel à « menacer l'humanité ». Sa nature exacte et ses capacités restent cependant entourées de mystère. Yann LeCun, scientifique en chef de l'IA chez Meta, a mis en lumière la nature de Q*, suggérant qu'il s'agirait de remplacer « la prédiction de jetons auto-régressive par la planification » pour améliorer la fiabilité des grands modèles de langage. Il a souligné que ce développement n'est pas propre à OpenAI, car d'autres laboratoires d'IA de premier plan comme FAIR et DeepMind travaillent également sur des initiatives similaires.


Dès le départ, l'un des principaux facteurs examinés à la loupe dans le licenciement d'Altman était son approche du safetynisme. Il a joué un rôle central dans l’orientation de l'entreprise vers la commercialisation, s’éloignant de ses racines à but non lucratif. Des initiatives telles que le lancement public de ChatGPT et ChatGPT Plus ont marqué un virage et ont généré des problèmes d'éthique et de sécurité. Les critiques ont fait valoir que de telles technologies devraient être réglementées plus rigoureusement en raison de leur développement rapide.


Q* est-il le début de l’AGI ?

L'intelligence générale artificielle (AGI) a toujours été l'objectif ultime d'OpenAI, défini comme « des systèmes autonomes qui surpassent les humains dans les tâches les plus rentables sur le plan économique ». Q* ne semble pas immédiatement être une étape significative vers cette technologie puisqu’il se concentre sur les mathématiques, un domaine dans lequel les ordinateurs aident les humains depuis des décennies. Cependant, ses capacités uniques dans ce domaine impliquent une logique et un raisonnement semblables à ceux des humains. Contrairement aux modèles linguistiques, qui fournissent souvent une gamme de réponses, les mathématiques en ont généralement une seule. Les chercheurs en IA pensent probablement que l'intelligence de Q* pourrait potentiellement être appliquée à de nouvelles recherches scientifiques. Bien qu'il en soit encore à ses premiers stades de développement, il représente une avancée substantielle depuis GPT-4 et s'aligne sur la vision de l'AGI de la société.

Plus récente Plus ancienne