La start-up de sécurité de l’intelligence artificielle HiddenLayer a levé 100 millions de dollars lors d’un tour de série B, alors que les efforts des entreprises pour sécuriser leurs systèmes d’AI s’accélèrent. Le tour, mené par Delta-v Capital, a réuni Ten Eleven Ventures, Morgan Stanley, le fonds M12 de Microsoft et Booz Allen Hamilton.
Chris Sestito, cofondateur et CEO de HiddenLayer, a déclaré que le revenu annuel récurrent de l’entreprise avait été multiplié par plus de 10 au cours de l’année écoulée. Sans fournir de chiffre précis, Sestito a indiqué que les revenus atteignaient désormais « plusieurs dizaines de millions » de dollars et que plus de 90 % de la croissance provenait de nouveaux clients acquis au cours de l’année écoulée. Les principaux clients de l’entreprise comprennent des établissements financiers et de grandes entreprises technologiques développant des produits d’AI. HiddenLayer détient également des contrats avec le ministère de la Défense et la communauté du renseignement ; l’un de ses clients est « un fournisseur de modèles de pointe de premier plan » comptant plus de 700 millions d’utilisateurs hebdomadaires.
Gartner estime que les entreprises dépenseront cette année 2,83 milliards de dollars dans des produits destinés à sécuriser les outils d’AI, soit une hausse de 83 % par rapport à 2025. Les dépenses devraient atteindre environ 4,78 milliards de dollars l’année prochaine.
HiddenLayer, basée à Austin, développe des produits qui protègent les modèles d’AI, les agents et les flux de travail contre les attaques, les vulnérabilités et les injections de code malveillant. Tout en protégeant ses produits de 2023, l’entreprise a élargi son champ d’action pour inclure également l’injection de prompts, la manipulation des agents et l’utilisation d’outils malveillants. Ses produits se concentrent sur la découverte, la protection à l’exécution, la simulation d’attaques et la sécurité de la chaîne d’approvisionnement. Sestito a indiqué qu’avec la généralisation des déploiements d’AI, la sécurité à l’exécution était devenue une priorité, et qu’elle ressemblait à la détection et à la réponse sur les terminaux spécifiques à l’AI, c’est-à-dire aux solutions EDR.
HiddenLayer analyse également environ 50 cadres de fichiers AI différents afin d’examiner les risques liés aux modèles open source et à poids ouverts. L’entreprise cherche à détecter des menaces telles qu’un modèle se faisant passer pour autre chose que ce qu’il est ou dissimulant d’autres modèles.
Le nouvel investissement sera utilisé pour développer l’ingénierie et la recherche, ainsi que les ventes et la distribution, et pour s’étendre à l’Europe et à EMEA. HiddenLayer reconnaît que des entreprises comme Microsoft, OpenAI et AWS pourraient intégrer certaines fonctionnalités de sécurité de l’AI à leurs plateformes ; elle estime toutefois que l’infrastructure d’AI se concentrera davantage sur des fonctionnalités de gouvernance telles que la découverte, la gestion des identités et les contrôles de politique.
Pourquoi c’est important
L’investissement montre que l’utilisation de l’AI accroît non seulement le besoin de développer des modèles, mais aussi celui de surveiller et de protéger les modèles pendant leur fonctionnement. Le fait que différents groupes de clients, tels que les établissements financiers, les grandes entreprises technologiques et les institutions publiques, soient confrontés aux mêmes problèmes de sécurité explique l’orientation des produits vers un domaine plus large, allant du modèle à l’agent et au workflow. Les analyses réalisées pour les modèles open source et à poids ouverts indiquent que les risques peuvent provenir non seulement d’attaques externes, mais aussi de la fiabilité des fichiers de modèles et de la chaîne d’approvisionnement. Toutefois, l’ajout de fonctionnalités de sécurité par les grandes entreprises technologiques à leurs propres plateformes laisse ouverte la question de savoir comment HiddenLayer se distinguera dans les domaines de la gouvernance et de la protection à l’exécution.
Terme : agent
Un agent d’AI est un logiciel qui appelle des outils et exécute des tâches en plusieurs étapes pour atteindre un objectif, au lieu de produire une seule réponse.