Le co-fondateur d’OpenAI, Ilya Sutskever, ainsi que Jan Leike, qui codirigeait l’équipe Superalignment d’OpenAI, ont démissionné de la start-up américaine d’intelligence artificielle pour raisons éthiques. Suite à cela, le dirigeant de la start-up, Sam Altman, a décidé de dissoudre l’équipe entière.
L’équipe Superalignment a été mise en place l’été dernier chez OpenAI pour superviser le développement de l’intelligence artificielle et s’assurer qu’elle ne se retournerait pas contre l’humanité.
Jan Leike a publié un message sur X (ex-Twitter) pour donner des précisions quant à son départ : « Je suis en désaccord avec la direction d’OpenAI sur les priorités de l’entreprise depuis un certain temps. Nous avons atteint le point de rupture. Je pense que nous devrions consacrer une plus grande partie de notre bande passante à la préparation des prochaines générations de modèles, à la sécurité, à la surveillance, à la sûreté, à la robustesse, au (super)alignement, à la confidentialité, à l’impact sociétal et à d’autres sujets connexes ». Et d’ajouter : « Construire des machines plus intelligentes que l’homme est une entreprise intrinsèquement dangereuse… Mais ces dernières années, la culture et les processus de sécurité ont été relégués au second plan par rapport aux produits ».
Ilya Sutskever et Jan Leike ne sont pas les premiers à avoir démissionné de l’équipe de sécurité d’OpenAI. On pense notamment à Andrej Karpathy, Helen Toner, Tasha McCauley, Leopold Aschenbrenner, Pavel Izmailov, William Saunders, Daniel Kokotajlo et Cullen O’Keefe.
Parmi les inquiétudes suscitées par l’outil-phare d’OpenAI, ChatGPT : sa capacité à imiter une voix humaine au point qu’on ne puisse pas faire la différence entre la machine et l’humain. Le robot conversationnel ChatGPT-4 a en effet passé le test de Turing selon une récente étude menée par l’équipe de recherche en sciences cognitives de l’Université de San Diego en Californie. OpenAI est ainsi dans le viseur de l’actrice américaine Scarlett Johansson qui l’accuse d’avoir utilisé et copié sa voix sans son autorisation pour l’une des cinq voix de ChatGPT : Sky.