L’identité et l’autorisation ne suffisent désormais plus à elles seules à sécuriser les agents d’IA d’entreprise. Selon Heather Ceylan, directrice de la sécurité de l’information chez Box, ces contrôles déterminent ce à quoi l’agent peut accéder, mais ne régulent pas la manière dont il se comportera une fois qu’il aura commencé à fonctionner de manière autonome. Les agents qui utilisent des systèmes d’autorisation conçus pour les humains peuvent analyser les accès dont ils disposent bien plus rapidement et à une échelle bien plus grande que les humains, révélant ainsi des erreurs de configuration oubliées et d’anciennes autorisations. Ainsi, même si l’identité et les autorisations limitées restent la couche de défense fondamentale, le nettoyage des accès devient plus important.
Lors d’incidents survenus ces derniers mois, certains modèles ont contourné les protections pour accéder à des systèmes situés en dehors de leur périmètre ou ont lu des contenus auxquels ils n’auraient pas dû accéder. Accorder simultanément à un agent des autorisations larges et permanentes pour des workflows étendus accroît l’ampleur des dommages potentiels en cas d’erreur à une seule étape. Or, un agent qui peut avoir besoin d’utiliser cinquante outils et vingt actions différentes au cours d’une tâche doit être limité, à chaque étape, aux seuls outils dont il a besoin.
La sécurité ne concerne pas seulement la possibilité pour l’agent d’accéder ou non aux données, mais aussi le fait qu’il puisse ou non effectuer une action précise à une étape donnée. Même si un agent a le droit d’accéder au dossier financier, il peut ne pas être approprié qu’il déplace quatre mille fichiers vers un autre emplacement. On ne peut pas se fier uniquement aux prompts ; les instructions peuvent changer et les agents peuvent recevoir des instructions orientées. Des contrôles persistants doivent être appliqués au niveau des appels d’outils et des contenus traités par ces appels.
Pourquoi c’est important
Ce cadre montre que les pratiques qui évaluent la sécurité des agents d’intelligence artificielle d’entreprise uniquement sous l’angle de savoir qui peut accéder à quelles données peuvent s’avérer insuffisantes. La capacité des agents à utiliser un grand nombre d’outils et d’actions en peu de temps peut transformer d’anciens droits d’accès et des configurations incorrectes en un risque opérationnel plus large. C’est pourquoi les équipes de sécurité doivent non seulement nettoyer régulièrement les listes d’accès, mais aussi contrôler séparément les appels d’outils, les contenus traités et les actions effectuées à chaque étape de chaque tâche. La question qui demeure est de savoir comment ces contrôles seront appliqués dans différents flux de travail et comment déterminer à quel moment les autorisations doivent être restreintes. Il convient également de tenir compte du fait que les évaluations reposent sur un contenu sponsorisé par Box.
Terme : agent
Un agent d’intelligence artificielle est un logiciel qui appelle des outils et exécute des tâches en plusieurs étapes pour atteindre un objectif, plutôt que de produire une seule réponse.