« Ce que je m’apprête à vous dire est devenu un peu un cliché : j’ai démissionné d’OpenAI cette semaine », écrit David Robinson, rédacteur des rapports de sécurité chez OpenAI. « Je rejoins désormais une longue liste d’anciens collègues — chez OpenAI et chez d’autres leaders du secteur — qui ont décidé que la voie actuelle était inacceptable ». Et d’ajouter : « Les sociétés qui développent cette technologie ne font pas preuve d’une prudence suffisante, loin s’en faut ».

Pour mémoire, l’intelligence artificielle d’OpenAI a effectué cet été des intrusions non désirées au sein de systèmes extérieurs à ceux d’OpenAI, qu’ils soient privés comme la plateforme de Hugging Face, ou gouvernementaux, en Australie notamment. 

« Les géants de l’IA manquent de certitudes sur la fiabilité de l’encadrement des modèles », souligne David Robinson (cf. photo), dans une tribune publiée dans The Atlantic. « Un environnement dans lequel de telles choses peuvent se produire n’est pas un endroit où développer des intelligences artificielles susceptibles de devenir plus intelligentes que nous et qui pourraient ne pas faire ce que nous attendons d’elles ». Selon lui, il est indispensable de traiter l’IA en adoptant une culture du risque similaire à celle du nucléaire ou de l’aviation.

David Robinson revient également sur la notion d’alignement, à savoir l’adhésion des modèles d’IA aux valeurs humaines et aux instructions qui leur ont été données. « Si l’on en croit les passionnés de superintelligence, certains des avenirs supposément positifs impliquent la création de machines capables de considérer New York ou Chicago comme vous ou moi pourrions considérer une fourmilière. Je ne souhaite pas cela pour mes enfants et je pense que personne d’autre ne le souhaite non plus », remarque-t-il.

David Robinson a travaillé pendant trois ans et demi chez OpenAI. Il précise que peu de salarié·e·s restent aussi longtemps dans la société et qu’à ce titre, il était déjà un ‘vétéran’ parmi les employée·e·s avant sa démission.

En réponse, le commentaire officiel d’OpenAI auprès de l’agence Bloomberg est le suivant : « L’entreprise met en oeuvre des changements pour renforcer la sécurité de ses environnements de recherche et de test, former ses modèles d’IA à accomplir leurs tâches de manière responsable, développer sa collaboration avec des évaluateurs tiers et améliorer la surveillance en temps réel afin de détecter les comportements préoccupants de ses modèles ». C’est à croire qu’il a été écrit par une intelligence artificielle.

Nos lecteurs ont lu ensuite