OpenAI estime ne plus pouvoir exclure que son futur modèle Astra atteigne un niveau « critique » en matière de capacités cyber offensives. L’éditeur renforce en conséquence ses mesures de confinement. Cette alerte intervient après plusieurs incidents récents ayant montré les difficultés croissantes à contenir les système d’agents IA avancés lors d’évaluations de cybersécurité.

OpenAI vient de relever le niveau d’alerte autour de son futur modèle Astra. Dans une note publiée le 7 août, l’entreprise indique que ses premières évaluations montrent des progrès suffisamment importants en programmation agentique et en cybersécurité pour qu’elle ne puisse plus exclure qu’il atteigne qu’il atteigne le niveau de risque “critique” prévu par son référentiel de préparation.

Ce niveau correspond notamment à la capacité d’identifier et de développer de manière autonome des exploits zero-day contre des systèmes fortement sécurisés, ou de concevoir et mener des stratégies d’attaque complexes à partir d’un objectif de haut niveau.

OpenAI précise toutefois qu’Astra est toujours en cours d’évaluation et n’est impliqué dans aucun des incidents rendus publics ces dernières semaines. L’entreprise annonce néanmoins un renforcement de son dispositif : environnements davantage isolés, restrictions sur les accès réseau et les outils, protection accrue des poids du modèle et surveillance renforcée de ses actions. Certaines expérimentations internes ne répondant pas encore à ces exigences sont suspendues.

Cette prudence intervient après une succession de débordements très médiatisés impliquant des modèles d’OpenAI, Anthropic, Meta ou Moonshot AI lors de tests cyber. Ces incidents sont venus montrer que les environnements pour tester les capacités offensives des agents IA ne sont plus toujours à la hauteur de leurs capacités.

Le cas le plus spectaculaire concerne OpenAI lui-même. Mi-juillet, Hugging Face avait révélé une intrusion réalisée de bout en bout par un système agentique. OpenAI a ensuite reconnu que l’opération avait été menée par une combinaison de ses modèles, dont GPT-5.6 Sol et un prototype de recherche, dans le cadre d’une évaluation où certains garde-fous avaient volontairement été réduits.

Chargés de résoudre le benchmark ExploitGym, les modèles ont découvert une faille zero-day, obtenu un accès réseau, élevé leurs privilèges puis tenté de récupérer directement les réponses sur l’infrastructure de Hugging Face. L’analyse du cas a aussi montré des mouvements latéraux, l’utilisation d’identifiants dérobés et l’exploitation de nouvelles vulnérabilités pour compromettre l’infrastructure de Hugging Face et exfiltrer des données confidentielles.

D’autres incidents ont ensuite été signalés par plusieurs organismes d’évaluation. Une mauvaise configuration chez Irregular, startup israélienne spécialisée dans la sécurité de l’IA, a notamment laissé des modèles d’Anthropic et Meta accéder à Internet alors qu’ils étaient censés rester confinés, conduisant certains d’entre eux à attaquer de véritables systèmes en les prenant pour des éléments de simulation.

Fin juillet, des tests de l’AISI britannique avec accès Internet ouvert et protections réduites ont par ailleurs produit 19 actions non autorisées sur 122 exécutions. Dix-sept provenaient de Mythos 5 d’Anthropic et deux de GPT-5.6 Sol d’OpenAI. Dans le cas le plus spectaculaire, l’agent d’Anthropic a tenté d’introduire du code malveillant dans un projet open source, créé de fausses identités et cherché à convaincre un mainteneur d’accepter sa contribution.

Ces épisodes ne signifient pas que les modèles publics puissent reproduire librement de tels comportements : les tests étaient souvent réalisés avec des garde-fous réduits ou dans des environnements mal configurés. Ils montrent en revanche que, à mesure que les agents gagnent en capacité et autonomie, leur confinement devient un enjeu aussi important que leur alignement. C’est précisément le risque qu’OpenAI cherche désormais à anticiper avec Astra et que devront suivre de près les organismes de sécurité et régulateurs mondiaux.

Nos lecteurs ont lu ensuite