Avec l’accès croissant des agents d’intelligence artificielle aux systèmes des entreprises et à Internet, une nouvelle chaîne d’approvisionnement logicielle se constitue autour des compétences, extensions, serveurs MCP et autres outils utilisés par ces agents. AIR, la start-up de cybersécurité fondée par Yair Saban et Niv Hoffman, anciens membres de l’unité de renseignement israélienne Unit 8200, est sortie de sa discrétion pour superviser cet écosystème et a levé au total 50 millions de dollars lors de deux tours de financement d’amorçage. Le premier tour, de 10 millions de dollars, a été mené par Sequoia, tandis que le second, de 40 millions de dollars, a été dirigé par Greenoaks. Swish, Netz, Zach Frankel, Yinon Costica, Ofir Ehrlich, Anne Neuberger, Omer Adam, Varun Anand et d’autres investisseurs providentiels ont également participé aux tours de table.
La plateforme d’AIR détecte les agents au sein de l’entreprise et contrôle en permanence les compétences, outils et composants qu’ils utilisent ; elle bloque les interactions avec des logiciels ou des ressources externes qui ne répondent pas aux critères de sécurité. Le système détermine également si les employés utilisent des outils d’intelligence artificielle non approuvés par les services informatiques ou des comptes personnels. Il comprend une couche d’application des règles qui analyse les opérations des agents, telles que l’installation d’extensions ou la récupération de contenus sur Internet. L’entreprise compare les outils et logiciels que les agents souhaitent utiliser à sa propre liste blanche ; elle réévalue les compétences et extensions disponibles sur Internet afin de détecter d’éventuelles modifications et des comportements malveillants. AIR indique filtrer environ 27 % des extensions et compétences trouvées en ligne.
Selon Saban, le fait que les agents fonctionnent de manière plus autonome dans les bases de données et les systèmes d’entreprise pourrait permettre aux attaquants d’empoisonner les contenus qu’ils consomment, plutôt que de cibler directement l’agent. AIR compte plus de 20 clients, dont environ un quart sont de grandes entreprises. La demande la plus forte vient notamment de secteurs fortement réglementés, comme les services financiers et les entreprises pharmaceutiques.
Sur le marché, Noma Security, Zenity, Astrix Security et Operant AI proposent également des produits similaires. Zenity a levé $125 millions en série C au mois d’août, tandis que Noma a obtenu $100 millions en série B l’an dernier. Saban estime que la différence d’AIR réside dans sa capacité à effectuer une revalidation continue. L’entreprise compte environ 40 employés ; les nouveaux capitaux serviront à recruter des chercheurs et à développer ses activités commerciales aux États-Unis et en Europe.
Pourquoi c’est important
À mesure que les agents d’intelligence artificielle agissent de manière plus indépendante au sein des entreprises, les limites de sécurité ne se réduisent plus au seul modèle et s’étendent aux extensions, aux compétences et aux sources externes qu’ils utilisent. La question est donc directement liée, en particulier dans les secteurs réglementés comme les services financiers et les entreprises pharmaceutiques, à la manière dont seront contrôlés l’utilisation d’outils non approuvés par les employés et les contenus récupérés sur Internet par les agents. Le fait qu’AIR déclare filtrer environ 27 % des composants disponibles en ligne montre que l’évaluation de la sécurité doit être effectuée en continu dans cet écosystème. Cependant, la mesure dans laquelle l’approche de l’entreprise se distingue de celle de ses concurrents et l’impact des blocages mis en place sur les flux de travail quotidiens des entreprises restent des questions ouvertes. À mesure que les droits d’accès des agents augmentent, ce domaine crée pour les entreprises un nouvel enjeu de contrôle de la chaîne d’approvisionnement.
Terme : agent
Un agent d’IA est un logiciel qui, au lieu de produire une seule réponse, appelle des outils et exécute un travail en plusieurs étapes pour atteindre un objectif.