Le Panel scientifique international indépendant sur l’intelligence artificielle des Nations unies a déclaré qu’il ne fallait pas reporter les mesures de sécurité jusqu’à ce que les risques liés aux agents d’intelligence artificielle avancés soient compris. L’évaluation thématique du panel, créé l’année dernière, examine les problèmes de contrôle et de sécurité à la suite de l’attaque contre Hugging Face, évoquée au début de cette année en lien avec OpenAI. Selon le rapport, les gouvernements doivent prendre des mesures préventives dès maintenant plutôt que d’attendre que des incidents surviennent ; l’incertitude scientifique ne doit pas retarder la réglementation. Alors que les capacités des agents autonomes et semi-autonomes s’élargissent, les principes de coordination internationale, de sécurité commune et de responsabilité doivent être renforcés ; des ressources doivent être consacrées aux mécanismes de sécurité et de reddition de comptes. Dans l’évaluation publiée pendant la session de l’Assemblée générale de l’ONU à New York, António Guterres a appelé les pays à agir ensemble. Guterres a déclaré qu’une course vers le bas en matière de normes de sécurité était inacceptable. Le panel considère la perte de contrôle comme un risque incertain, mais susceptible d’avoir de lourdes conséquences.
Pourquoi c’est important
La question au cœur de l’évaluation est de savoir si les décisions de sécurité peuvent être reportées jusqu’à l’obtention de preuves scientifiques certaines, alors que les capacités des agents d’intelligence artificielle s’élargissent. Ce cadre présente la gouvernance de l’intelligence artificielle non seulement comme une question de progrès technique, mais aussi comme une question de mesures préventives, de normes communes et de partage des responsabilités. Les recommandations placent au centre de la coordination internationale la question de savoir comment harmoniser les différentes approches de la sécurité entre les pays en matière de contrôle, d’allocation des ressources et de reddition de comptes. Cependant, l’incertitude entourant le risque de perte de contrôle laisse ouvertes les questions de savoir à quel seuil quelles mesures devraient être rendues obligatoires et comment la responsabilité des lourdes conséquences devrait être répartie.
Terme : agent
Un agent d’intelligence artificielle est un logiciel qui appelle des outils et exécute des tâches en plusieurs étapes pour atteindre un objectif, plutôt que de produire une seule réponse.