OpenAI a annoncé qu’il soutiendrait les évaluations indépendantes menées par des tiers, en soulignant que les laboratoires d’IA de pointe sont responsables de la formation, de l’évaluation et du déploiement sûrs des modèles. Ces travaux visent à mettre à l’épreuve les allégations de sécurité, à révéler les risques passés inaperçus et à renforcer la responsabilité des laboratoires. Il a été indiqué que les évaluateurs pourraient bénéficier d’un accès aux mesures techniques de sécurité, à l’accès aux chaînes de pensée, aux données confidentielles et aux systèmes internes de déploiement pour la réponse aux incidents, dans le cadre des processus de formation, d’évaluation et de déploiement.
OpenAI a défini une « allégation de sécurité » comme une affirmation précise concernant la sécurité d’un modèle ou d’un système, pouvant être mise à l’épreuve au moyen de preuves, et un « dossier de sécurité » comme un argument structuré exposant, à l’aide de preuves, que les risques sont suffisamment gérés pour une activité donnée. Il a été précisé que les évaluations pourraient durer plusieurs semaines ou quelques mois, que différentes études pourraient être menées en parallèle et qu’elles se concentreraient notamment, à long terme, sur l’examen d’allégations de sécurité précises.
Les quatre domaines prioritaires retenus pour une évaluation plus approfondie sont les suivants :
- Examen indépendant des dossiers de sécurité couvrant l’entraînement, l’évaluation, le déploiement interne et le déploiement externe ; évaluation visant à déterminer si les allégations de sécurité sont étayées par des preuves, si les conditions du processus sont respectées et si les risques critiques sont couverts.
- Examen des mesures de sécurité critiques dans les déploiements internes et externes ; test de la résilience face aux jailbreaks, aux augmentations des capacités à haut risque dans les domaines cyber, biologique et chimique, aux défenses cyber et aux lacunes des moniteurs de non-alignement des modèles.
- Examen des évaluations des capacités couvrant les catégories de risques de Preparedness, à savoir Chemical and Biological Risks, Cybersecurity et AI Self-Improvement, ainsi que des évaluations portant sur les risques graves de non-alignement ; vérification de l’actualité des seuils et des tests.
- Enquête indépendante sur les incidents critiques de non-alignement des modèles, tels qu’un comportement non autorisé ou une évasion de la surveillance ; recherche des causes de l’incident et examen de la capacité des mesures de sécurité et des actions correctives à prévenir des incidents similaires.
Les principes ont été définis comme suit : définition conjointe préalable du périmètre et des allégations, accès proportionné, méthodes et normes transparentes, expertise et indépendance, sécurité de l’information et confidentialité, conclusions exploitables à des fins correctives, ainsi que publication responsable fondée sur des preuves et protégeant les informations sensibles. Il a été souligné que les évaluateurs devaient déclarer leurs conflits d’intérêts, satisfaire aux exigences de sécurité et signaler les incertitudes dans leurs rapports. OpenAI a indiqué qu’elle soutiendrait l’écosystème des évaluateurs indépendants ainsi que l’élaboration de normes internationales communes.
Pourquoi c’est important
Cette approche vise à faire évoluer l’évaluation de la sécurité de l’intelligence artificielle, qui ne reposerait plus uniquement sur les déclarations des laboratoires, vers un cadre d’audit permettant à des experts externes d’examiner les éléments probants et les processus. Ainsi, les dossiers de sécurité des développeurs, la suffisance des tests et leur réponse aux incidents critiques pourront être examinés par des instances extérieures aux organisations. Le cadre élargit notamment le champ de l’examen indépendant dans des domaines tels que les capacités cybernétiques, biologiques et chimiques à haut risque, ainsi que la possibilité pour le modèle d’échapper à la supervision. Toutefois, l’équilibre entre l’accès des évaluateurs aux données sensibles et la publication responsable demeure la question centrale qui déterminera dans quelle mesure les conclusions seront portées à la connaissance du public. La recherche de normes internationales communes revêt également une grande importance pour garantir la comparabilité des différentes évaluations.