Jacob Coxon, un chercheur britannique en intelligence artificielle ayant travaillé pendant trois ans sur le pré-entraînement des modèles d’IA chez OpenAI, puis chez Anthropic, vient d’annoncer sa démission d’Anthropic et son départ de l’industrie de l’IA générative. Il accuse les deux géants étasuniens de l’IA pour lesquels il a travaillé, d’agir de manière irresponsable et de mettre l’humanité en péril en poursuivant sa course folle vers une IA capable de s’auto-améliorer sans intervention humaine.

L’actuel responsable de l’alignement chez Anthropic, Evan Hubinger, lui donne publiquement raison (cf. illustration). Lui n’a pas démissionné mais estime à plus de 10% la probabilité que l’intelligence artificielle puisse tuer tous les humains au cours de la prochaine décennie. Evan Hubinger admet également qu’Anthropic ne dispose pas d’un plan pour garantir le contrôle des systèmes dits « superintelligents » et n’est pas prêt d’y parvenir.

Dans un post de blog publié le 5 septembre 2026, Jakub Pachocki, le scientifique en chef d’OpenAI, reconnaît que les capacités de l’IA progressent plus vite que les mécanismes de contrôle existants et appelle explicitement à des freins externes et coordonnés. Selon lui, les entreprises oeuvrant dans l’IA générative doivent aller vers « des seuils de sécurité largement obligatoires », contrôlés par « des auditeurs indépendants, des agences gouvernementales ou des organismes internationaux ». C’est également ce à quoi Bill Gates, le co-fondateur de Microsoft, a appelé dans un long billet publié le 26 août dernier.

« Lorsque les personnes qui construisent cette technologie considèrent elles-mêmes que les conséquences pourraient être aussi graves et reconnaissent ne pas savoir encore comment maîtriser ces systèmes, nous devons les écouter », affirme l’association Pause IA, dans un communiqué. « On ne peut pas demander à quelques entreprises privées de décider seules du niveau de risque acceptable pour l’ensemble de l’humanité ».

Nos lecteurs ont lu ensuite