La rápida expansión de los agentes de AI en las redes corporativas también está aumentando el número de startups que intentan garantizar la seguridad de estos sistemas. Según los perfiles de Crunchbase y PitchBook, en el mercado hay al menos dos docenas de empresas dedicadas a la seguridad de los agentes de AI. Estas empresas ofrecen soluciones como supervisar las herramientas utilizadas por los agentes, controlar los datos a los que pueden acceder, detectar amenazas en los dispositivos donde operan e identificar el uso no autorizado de AI.
La startup de seguridad de AI Reco, que anteriormente se centraba en mapear y proteger plataformas SaaS y de AI, ha ampliado recientemente su alcance. El grafo de contexto de la empresa relaciona a los agentes con aplicaciones, personas, cuentas y permisos, lo que permite a los equipos de seguridad visualizar los accesos de los agentes y revocar los que sean innecesarios. Ofer Klein, cofundador y CEO de Reco, señaló que las empresas desarrollan agentes más rápido de lo que pueden hacerles seguimiento. Reco encontró 21,000 agentes desconocidos para la empresa en un cliente de Fortune 100. En un gran cliente de servicios financieros, detectó que un antiguo empleado había creado un agente capaz de acceder a Salesforce y compartir datos con un dominio que la empresa no podía ver.
Chris Sestito, CEO de HiddenLayer, afirmó que los costes y riesgos de los agentes utilizados en producción están creciendo rápidamente, y que más de 50 de sus clientes operan agentes que interactúan con sistemas críticos y activos sensibles. Cymphony anunció que había identificado aproximadamente 85,000 archivos a los que tenían acceso herramientas y agentes de AI en una empresa pública estadounidense.
Reco anunció el martes que había recaudado $55 millones. La inversión amplía su ronda Series B de $30 millones de febrero, en la que también participaron el brazo de capital riesgo de AT&T, Forestay y Quadrille Capital. El capital total recaudado por la empresa alcanzó los $140 millones. Klein afirmó que la valoración “más que se duplicó” desde febrero y que se encuentra en el nivel de “cientos de millones altos”. Los ingresos recurrentes anuales se sitúan en “decenas de millones de dólares”; la empresa espera triplicarlos este año.
Reco tiene más de 100 clientes y aproximadamente el 40 % de sus ingresos procede de los servicios financieros. La empresa trabaja integrada con más de 280 aplicaciones y afirma que se pueden añadir nuevas integraciones en cuestión de días. La nueva inversión se utilizará para contratación, ventas, alianzas y atención al cliente.
Por qué es importante
Los enfoques de seguridad que limitan la visibilidad en las redes de las empresas a los empleados humanos y al software tradicional pueden resultar insuficientes a medida que se extienden los agentes capaces de utilizar sus propias herramientas y acceder a distintos datos. Esto obliga a los equipos de seguridad no solo a bloquear las amenazas, sino también a supervisar continuamente con qué cuentas, aplicaciones y permisos está conectado cada agente; los servicios financieros y las entidades públicas se ven especialmente afectados debido a su amplio acceso a los datos. La aparición de al menos dos docenas de empresas emergentes en el mercado demuestra que el problema no es exclusivo de una sola organización y que existe la necesidad de una nueva capa de seguridad. Sin embargo, la cuestión fundamental que sigue abierta es si las empresas podrán descubrir de forma exhaustiva los agentes que se multiplican rápidamente, eliminar a tiempo los accesos innecesarios y controlar el intercambio de datos.
Término: agente
Un agente de inteligencia artificial es un software que, en lugar de generar una única respuesta, realiza tareas en varios pasos mediante llamadas a herramientas para alcanzar un objetivo.