La startup de seguridad de AI HiddenLayer ha recaudado 100 millones de dólares en una ronda de financiación Serie B, a medida que se aceleran los esfuerzos de las empresas por proteger sus sistemas de AI. La ronda estuvo liderada por Delta-v Capital y contó con la participación de Ten Eleven Ventures, Morgan Stanley, el fondo M12 de Microsoft y Booz Allen Hamilton.
Chris Sestito, cofundador y CEO de HiddenLayer, explicó que los ingresos recurrentes anuales de la empresa aumentaron más de 10 veces durante el último año. Sestito, que no proporcionó una cifra exacta, dijo que los ingresos se sitúan ahora en el nivel de “decenas de millones” de dólares y que más del 90 % del crecimiento procede de nuevos clientes obtenidos durante el último año. Entre los principales clientes de la empresa se encuentran instituciones financieras y grandes compañías tecnológicas que desarrollan productos de AI. HiddenLayer también tiene contratos con el Departamento de Defensa y la comunidad de inteligencia; uno de sus clientes es “un proveedor líder de modelos frontier” con más de 700 millones de usuarios semanales.
Gartner estima que las empresas gastarán este año 2,83 mil millones de dólares en productos que protegen las herramientas de AI, lo que representa un aumento del 83 % respecto a 2025. Se espera que el gasto alcance aproximadamente 4,78 mil millones de dólares el próximo año.
HiddenLayer, con sede en Austin, desarrolla productos que protegen los modelos de AI, los agentes y los flujos de trabajo frente a ataques, vulnerabilidades e inyecciones de código malicioso. En 2023, la empresa amplió el alcance de sus productos para incluir prompt injection, manipulación de agentes y uso malicioso de herramientas. Sus productos se centran en el descubrimiento, la protección en tiempo de ejecución, la simulación de ataques y la seguridad de la cadena de suministro. Sestito señaló que, a medida que se generalizan las implementaciones de AI, la seguridad en tiempo de ejecución se ha convertido en una prioridad y que se asemeja a la detección y respuesta de endpoints específica para AI, es decir, a las soluciones EDR.
HiddenLayer también analiza aproximadamente 50 marcos de archivos de AI diferentes para examinar los riesgos de los modelos de código abierto y de pesos abiertos. La empresa pretende detectar amenazas como que un modelo se presente como algo distinto de lo que es o que oculte otros modelos.
La nueva inversión se utilizará para ampliar la ingeniería y la investigación, así como las ventas y la distribución, y también para expandirse a Europa y EMEA. HiddenLayer reconoce que empresas como Microsoft, OpenAI y AWS podrían incorporar algunas funciones de seguridad de AI a sus plataformas; sin embargo, considera que la infraestructura de AI se centrará más en funciones de gobernanza, como el descubrimiento, la identidad y los controles de políticas.
Por qué es importante
La inversión muestra que el uso de AI está ampliando la necesidad no solo de desarrollar modelos, sino también de supervisarlos y protegerlos durante su funcionamiento. El hecho de que distintos grupos de clientes, como instituciones financieras, grandes empresas tecnológicas y organismos públicos, se enfrenten a los mismos problemas de seguridad explica que los productos se orienten hacia un ámbito más amplio, que abarca desde el modelo hasta el agente y el flujo de trabajo. Los análisis realizados para modelos de código abierto y de pesos abiertos indican que los riesgos no solo pueden proceder de ataques externos, sino también de la fiabilidad de los archivos del modelo y de la cadena de suministro. Sin embargo, el hecho de que las grandes empresas tecnológicas incorporen funciones de seguridad a sus propias plataformas deja abierta la cuestión de cómo se diferenciará HiddenLayer en los ámbitos de la gobernanza y la protección durante el funcionamiento.
Término: agente
Un agente de AI es un software que, en lugar de generar una única respuesta, invoca herramientas y ejecuta tareas en varios pasos para alcanzar un objetivo.