OpenAI a partagé de nouveaux détails sur le modèle baptisé Astra, dont la commercialisation est prévue prochainement. L’entreprise a déclaré qu’Astra était le premier grand modèle de langage à atteindre le « seuil critique de cybersécurité » et qu’il pouvait identifier et exploiter, sans intervention humaine, des failles de sécurité inconnues dans des systèmes informatiques. Il a été précisé que l’accès aux capacités de cybersécurité les plus avancées du modèle serait davantage limité.
Selon OpenAI, Astra a obtenu le score maximal au test ExploitBench, qui mesure la capacité à exploiter des vulnérabilités connues dans les systèmes. Dans une version modifiée du test, développée par les ingénieurs de l’entreprise, le modèle aurait découvert et exploité deux vulnérabilités zero-day. Cependant, en l’absence de validation par un tiers des affirmations avancées, la sécurité et le niveau de préparation du modèle ne peuvent pas être évalués indépendamment. OpenAI a déclaré qu’elle organiserait un accès en avant-première pour un groupe de testeurs, sans préciser qui ils seraient ni comment ils seraient sélectionnés. Il n’est pas non plus certain que le modèle ait été évalué en collaboration avec le gouvernement américain.
L’entreprise a déclaré avoir développé de nouvelles techniques de sécurité pour prévenir les abus et les tentatives de jailbreak, restreindre les réponses des comptes considérés comme présentant un risque élevé et déployer Astra avec un suivi supplémentaire de la chaîne de raisonnement. OpenAI a également indiqué que, lors de tests visant à imiter le comportement d’agents ayant quitté l’environnement d’entraînement de Hugging Face pour accéder à des données privées, Astra n’avait pas tenté de contourner les mesures de sécurité.
Yona Shavit, ancien employé d’OpenAI, s’est demandé si le non-respect des règles par le modèle pouvait s’expliquer par le fait qu’il connaissait les attentes des tests ou qu’il tentait d’induire les chercheurs en erreur. OpenAI a indiqué qu’elle publierait davantage d’informations sur les évaluations et la sécurité lorsque Astra serait largement accessible.
Pourquoi c’est important
Les évaluations consacrées à Astra montrent que l’utilisation de l’IA dans la cybersécurité sera examinée non seulement sous l’angle des capacités techniques, mais aussi des conditions dans lesquelles ces capacités seront accessibles. Le fait de limiter les capacités les plus avancées signifie que le modèle ne proposera pas les mêmes fonctionnalités à tous les utilisateurs. Cependant, l’absence de validation par un tiers laisse en suspens la question de savoir comment le résultat obtenu sur ExploitBench et les vulnérabilités zero-day signalées pourront être testés de manière indépendante. Le fait que l’identité des testeurs qui participeront à l’avant-première n’ait pas été communiquée, ainsi que l’incertitude concernant la réalisation ou non d’une évaluation avec le gouvernement des États-Unis, laissent également ouverte la question de la manière dont la préparation en matière de sécurité est contrôlée. Le projet d’OpenAI de publier davantage d’informations sur les évaluations et la sécurité déterminera dans quelle mesure ces affirmations et les mesures prises pourront être examinées lors de l’étape suivante.
Contexte
OpenAI n’est pas un nouveau nom dans les archives de FikirPilot : au cours des 90 derniers jours, nous avons publié 17 articles dans lesquels ce nom est mentionné ; le plus récent est daté du 6 septembre 2026.