随着人工智能代理对企业系统和互联网的访问不断增加，由这些代理所使用的技能、插件、MCP服务器及其他工具构成的新型软件供应链正在形成。由曾在以色列Unit 8200情报部门任职的Yair Saban和Niv Hoffman创立的网络安全初创公司AIR宣布结束隐身状态，并在两轮种子融资中共筹集了$50百万美元。首轮融资由Sequoia领投，金额为$10百万美元；第二轮融资由Greenoaks领投，金额为$40百万美元。Swish、Netz、Zach Frankel、Yinon Costica、Ofir Ehrlich、Anne Neuberger、Omer Adam、Varun Anand及其他天使投资人也参与了这些轮次。
AIR的平台能够发现企业内部的代理，持续监控这些代理所使用的技能、工具和组件；同时阻止与不符合安全标准的软件或外部资源进行交互。该系统还能够判断员工是否使用了未经信息技术部门批准的人工智能工具或个人账户。平台设有一个执行层，用于分析代理执行安装插件或从互联网获取内容等操作。公司会将代理希望使用的工具和软件与其自有白名单进行比对；并针对互联网上的技能和插件是否发生变更以及是否存在恶意行为进行重新评估。AIR表示，其过滤掉了在网上发现的插件和技能中约27%的部分。
Saban认为，代理在数据库和企业系统中更加自主地运行，可能会让攻击者不必直接瞄准代理，而是转而投毒代理所消费的内容。AIR拥有20多家客户，其中约四分之一是大型企业。需求最强劲的客户主要来自受到严格监管的行业，尤其是金融服务和制药公司。
市场上的Noma Security、Zenity、Astrix Security和Operant AI也提供类似产品。Zenity在8月获得了$125百万 Series C融资，Noma则在去年获得了$100百万 Series B融资。Saban认为，持续重新验证的能力构成了AIR的差异化优势。公司约有40名员工；新资金将用于招聘研究人员，以及推进在美国和欧洲的市场拓展工作。
为何重要
人工智能代理在企业内部更加独立地行动，使安全边界不再仅限于模型本身，而是扩展到其使用的插件、技能和外部资源。因此，这一问题与如何监管员工使用未经批准的工具，以及如何监管代理从互联网获取的内容直接相关，尤其是在金融服务和制药公司等受监管行业中。AIR宣布已过滤掉在线发现的组件中约27%的部分，这表明在这一生态系统中，安全评估需要持续进行。不过，该公司的做法在多大程度上区别于竞争对手，以及所实施的拦截将如何影响企业的日常工作流程，仍是一个悬而未决的问题。随着代理获得的访问权限不断增加，这一领域正在为企业形成一个新的供应链监管议题。
术语：代理
人工智能代理是一种软件，它不会只生成单个回答，而是会调用工具并执行多步骤任务，以实现目标。