Com o aumento do acesso dos agentes de inteligência artificial aos sistemas das empresas e à internet, está surgindo uma nova cadeia de fornecimento de software composta pelas habilidades, pelos plugins, pelos servidores MCP e por outras ferramentas usadas por esses agentes. A startup de cibersegurança AIR, fundada por Yair Saban e Niv Hoffman, que atuaram na unidade de inteligência israelense Unit 8200, saiu do modo sigiloso para supervisionar esse ecossistema e levantou um total de $50 milhões em duas rodadas de investimento seed. A primeira rodada, de $10 milhões, foi liderada pela Sequoia, e a segunda, de $40 milhões, pela Greenoaks. Também participaram das rodadas Swish, Netz, Zach Frankel, Yinon Costica, Ofir Ehrlich, Anne Neuberger, Omer Adam, Varun Anand e outros investidores-anjo.
A plataforma da AIR descobre os agentes dentro da empresa e supervisiona continuamente as habilidades, ferramentas e componentes usados por eles; além disso, impede a interação com softwares ou recursos externos que não atendam aos critérios de segurança. O sistema também determina se os funcionários estão usando ferramentas de inteligência artificial ou contas pessoais não aprovadas pelos departamentos de tecnologia da informação. Há uma camada de fiscalização que analisa operações dos agentes, como a instalação de plugins ou a obtenção de conteúdo da internet. A empresa compara as ferramentas e os softwares que os agentes pretendem usar com sua própria lista de permissões; e reavalia as habilidades e os plugins encontrados na internet em busca de alterações e comportamentos maliciosos. A AIR afirma ter filtrado aproximadamente 27% dos plugins e habilidades encontrados on-line.
Segundo Saban, o fato de os agentes operarem de forma mais autônoma em bancos de dados e sistemas corporativos pode permitir que invasores envenenem o conteúdo consumido pelo agente, em vez de atacá-lo diretamente. A AIR tem mais de 20 clientes, e aproximadamente um quarto deles é formado por grandes empresas. A demanda mais forte vem de setores altamente regulamentados, especialmente empresas de serviços financeiros e farmacêuticas.
No mercado, Noma Security, Zenity, Astrix Security e Operant AI também oferecem produtos semelhantes. A Zenity recebeu um investimento de $125 milhões em uma rodada Series C em agosto, enquanto a Noma recebeu $100 milhões em uma rodada Series B no ano passado. Saban afirma que a diferença da AIR está em sua capacidade de realizar revalidações contínuas. A empresa tem aproximadamente 40 funcionários; o novo capital será usado na contratação de pesquisadores e nos esforços de expansão para os mercados dos Estados Unidos e da Europa.
Por que isso importa
A atuação mais independente dos agentes de inteligência artificial dentro das empresas faz com que os limites de segurança deixem de se restringir apenas ao próprio modelo e se estendam aos plugins, às habilidades e às fontes externas que ele utiliza. Por isso, a questão está diretamente relacionada à forma como serão supervisionados, especialmente em setores regulamentados como os de serviços financeiros e farmacêutico, o uso de ferramentas não aprovadas pelos funcionários e o conteúdo obtido pelos agentes na internet. A declaração da AIR de que filtrou aproximadamente 27% dos componentes encontrados on-line indica que as avaliações de segurança nesse ecossistema precisam ser realizadas continuamente. No entanto, continua em aberto em que medida a abordagem da empresa se diferencia da de seus concorrentes e como os bloqueios implementados afetarão o fluxo de trabalho diário das organizações. À medida que as permissões de acesso dos agentes aumentam, essa área cria para as empresas uma nova frente de auditoria da cadeia de fornecimento.
Termo: agente
Um agente de AI é um software que, em vez de produzir uma única resposta, chama ferramentas e executa um trabalho em várias etapas para atingir um objetivo.