A medida que aumenta el acceso de los agentes de inteligencia artificial a los sistemas corporativos y a internet, se está formando una nueva cadena de suministro de software compuesta por las habilidades, los complementos, los servidores MCP y otras herramientas que utilizan estos agentes. AIR, una startup de ciberseguridad fundada por Yair Saban y Niv Hoffman, quienes sirvieron en la unidad de inteligencia Unit 8200 de Israel, salió del modo sigiloso para supervisar este ecosistema y recaudó un total de $50 millones en dos rondas de financiación semilla. Sequoia lideró la primera ronda, de $10 millones, mientras que Greenoaks encabezó la segunda, de $40 millones. En las rondas también participaron Swish, Netz, Zach Frankel, Yinon Costica, Ofir Ehrlich, Anne Neuberger, Omer Adam, Varun Anand y otros inversores ángeles.
La plataforma de AIR descubre los agentes dentro de las empresas y supervisa continuamente las habilidades, herramientas y componentes que utilizan; además, impide las interacciones con software o recursos externos que no cumplan los criterios de seguridad. El sistema también determina si los empleados utilizan herramientas de inteligencia artificial o cuentas personales que no han sido aprobadas por los departamentos de tecnologías de la información. Cuenta con una capa de aplicación de políticas que analiza acciones de los agentes como la instalación de complementos o la extracción de contenido de internet. La empresa compara las herramientas y el software que los agentes quieren utilizar con su propia lista blanca; asimismo, vuelve a evaluar las habilidades y los complementos disponibles en internet para detectar cambios y comportamientos maliciosos. AIR afirma que filtra aproximadamente el 27 % de los complementos y habilidades que encuentra en línea.
Según Saban, que los agentes operen de forma más autónoma en bases de datos y sistemas corporativos podría permitir a los atacantes envenenar el contenido que consumen, en lugar de atacar directamente al agente. AIR tiene más de 20 clientes y aproximadamente una cuarta parte de ellos son grandes empresas. La demanda más fuerte proviene especialmente de sectores estrictamente regulados, como los servicios financieros y las empresas farmacéuticas.
En el mercado, Noma Security, Zenity, Astrix Security y Operant AI también ofrecen productos similares. Zenity recibió una inversión de $125 millones en una ronda Serie C en agosto, mientras que Noma obtuvo una inversión de $100 millones en una ronda Serie B el año pasado. Saban sostiene que la diferencia de AIR radica en su capacidad de volver a validar continuamente. La empresa cuenta con aproximadamente 40 empleados; el nuevo capital se utilizará para contratar investigadores y para sus iniciativas de expansión en los mercados de Estados Unidos y Europa.
Por qué es importante
El hecho de que los agentes de inteligencia artificial actúen de forma más independiente dentro de las organizaciones extiende los límites de seguridad, que dejan de circunscribirse únicamente al propio modelo para abarcar también los complementos, las habilidades y las fuentes externas que utiliza. Por ello, el tema está directamente relacionado, especialmente en sectores regulados como los servicios financieros y las empresas farmacéuticas, con la forma en que se supervisará el uso de herramientas no aprobadas por parte de los empleados y el contenido que los agentes obtienen de internet. El anuncio de AIR de que filtra aproximadamente el 27 % de los componentes disponibles en línea indica que la evaluación de seguridad debe llevarse a cabo de forma continua en este ecosistema. Sin embargo, sigue siendo una cuestión abierta hasta qué punto el enfoque de la empresa se diferencia de sus competidores y cómo afectarán los bloqueos aplicados al flujo de trabajo diario de las organizaciones. Este ámbito está creando para las empresas un nuevo capítulo de supervisión de la cadena de suministro a medida que aumentan los permisos de acceso de los agentes.
Término: agente
Un agente de inteligencia artificial es un software que, en lugar de generar una única respuesta, utiliza herramientas y ejecuta procesos de varios pasos para alcanzar un objetivo.