La propagation rapide des agents AI au sein des réseaux d’entreprise entraîne également une hausse du nombre de start-up qui cherchent à sécuriser ces systèmes. Selon les profils de Crunchbase et de PitchBook, le marché compte au moins deux douzaines d’entreprises spécialisées dans la sécurité des agents AI. Ces entreprises proposent notamment des solutions pour surveiller les outils utilisés par les agents, contrôler les données auxquelles ils peuvent accéder, détecter les menaces sur les appareils où ils fonctionnent et repérer les utilisations non autorisées de l’AI.
La start-up de sécurité AI Reco, qui se concentrait auparavant sur la cartographie et la sécurisation des plateformes SaaS et AI, a récemment élargi son périmètre. Le graphe de contexte de l’entreprise relie les agents aux applications, aux personnes, aux comptes et aux autorisations, permettant ainsi aux équipes de sécurité de visualiser les accès des agents et de supprimer les accès superflus. Ofer Klein, cofondateur et CEO de Reco, a déclaré que les entreprises développaient des agents plus rapidement qu’elles ne pouvaient les suivre. Chez un client du Fortune 100, Reco a trouvé 21 000 agents dont l’entreprise ignorait l’existence. Chez un grand client du secteur des services financiers, elle a également découvert qu’un ancien employé avait créé un agent capable d’accéder à Salesforce et de partager des données avec un domaine que l’entreprise ne pouvait pas voir.
Chris Sestito, CEO de HiddenLayer, a déclaré que les coûts et les risques liés aux agents utilisés en production augmentaient rapidement et que plus de 50 de ses clients faisaient fonctionner des agents qui interagissaient avec des systèmes critiques et des actifs sensibles. Cymphony a pour sa part annoncé avoir identifié environ 85 000 fichiers auxquels des outils et des agents AI avaient obtenu accès dans une entreprise publique américaine.
Reco a annoncé mardi avoir levé $55 millions. Cet investissement élargit le tour de financement de $30 millions en Series B de février, auquel ont également participé le fonds de capital-risque d’AT&T, Forestay et Quadrille Capital. Le capital total levé par l’entreprise atteint $140 millions. Klein a déclaré que la valorisation avait « more than doubled » depuis février et se situait dans les « high hundreds of millions ». Le revenu récurrent annuel s’élève à « double-digit millions of dollars » ; l’entreprise s’attend à ce qu’il triple cette année.
Reco compte plus de 100 clients, et environ 40 % de son chiffre d’affaires provient des services financiers. L’entreprise est intégrée à plus de 280 applications et indique que de nouvelles intégrations peuvent être ajoutées en quelques jours. Le nouvel investissement sera consacré au recrutement, aux ventes, aux partenariats et au support client.
Pourquoi c’est important
Dans les réseaux d’entreprise, les approches de sécurité qui limitent la visibilité aux employés humains et aux logiciels traditionnels peuvent s’avérer insuffisantes avec la multiplication des agents capables d’utiliser leurs propres outils et d’accéder à différentes données. Cette situation oblige les équipes de sécurité non seulement à bloquer les menaces, mais aussi à surveiller en permanence quel agent est associé à quel compte, quelle application et quelles autorisations ; les services financiers et les organismes publics sont directement concernés, notamment en raison de leur accès important aux données. L’émergence d’au moins deux douzaines de startups sur le marché montre que le problème ne concerne pas une seule organisation et qu’un nouveau niveau de sécurité est nécessaire. Toutefois, la question fondamentale reste de savoir si les entreprises seront capables de découvrir de manière exhaustive les agents qui se multiplient rapidement et de contrôler le partage des données en supprimant à temps les accès superflus.
Terme : agent
Un agent d’intelligence artificielle est un logiciel qui, au lieu de produire une seule réponse, appelle des outils et exécute une tâche en plusieurs étapes afin d’atteindre un objectif.