人工智能安全初创公司 HiddenLayer 在企业加快为 AI 系统提供安全保障之际，获得了100百万美元的B轮融资。由 Delta-v Capital 领投的本轮融资还吸引了 Ten Eleven Ventures、Morgan Stanley、Microsoft旗下的 M12 基金以及 Booz Allen Hamilton 参与。
HiddenLayer 联合创始人兼 CEO Chris Sestito 表示，该公司的年度经常性收入在过去一年增长了10倍以上。Sestito 没有透露具体数字，但表示收入目前已达到“数千万”美元规模，且超过90%的增长来自过去一年获得的新客户。该公司的主要客户包括金融机构以及开发 AI 产品的大型科技公司。HiddenLayer 还与国防部和情报界签有合同；其客户之一是“领先的前沿模型提供商”，每周拥有超过700百万名用户。
Gartner 预计，今年企业将在保障 AI 工具安全的产品上支出2.83十亿美元，这意味着较2025年增长83%。预计支出将在明年达到约4.78十亿美元。
总部位于 Austin 的 HiddenLayer 正在开发相关产品，以保护 AI 模型、代理和工作流免受攻击、漏洞和恶意代码注入。该公司在保护2023年的产品的同时，将覆盖范围扩大到 prompt injection、代理操纵和恶意工具使用。其产品重点关注发现、运行时防护、攻击模拟和供应链安全。Sestito 表示，随着 AI 部署日益普及，运行时安全已成为优先事项，其作用类似于 AI 专用的端点检测与响应，即 EDR 解决方案。
HiddenLayer 还在扫描约50种不同的 AI 文件框架，以研究开源和开放权重模型中的风险。该公司旨在发现模型将自身伪装成其他模型，或隐藏其他模型等威胁。
这笔新投资将用于扩大工程和研究团队、销售与分销，并拓展至欧洲和 EMEA。HiddenLayer 承认，Microsoft、OpenAI 和 AWS 等公司可能会将部分 AI 安全功能纳入其平台；但该公司认为，AI 基础设施将更多地聚焦于发现、身份和策略控制等治理功能。
为何重要
这笔投资表明，AI 使用的增长不仅扩大了模型开发的需求，也增加了对模型运行期间进行监控和保护的需求。金融机构、大型科技公司和公共机构等不同客户群体面临相同的安全问题，这解释了相关产品为何将覆盖范围从模型扩展至代理和工作流。针对开源和开放权重模型开展的扫描则表明，风险不仅可能来自外部攻击，也可能源于模型文件和供应链的可靠性。不过，大型科技公司将安全功能加入自身平台，也使 HiddenLayer 如何在治理和运行时防护领域实现差异化这一问题悬而未决。
术语：代理
AI 代理是一种软件。它不会只生成单一响应，而是会调用工具并执行多步骤任务，以实现目标。