Стартап в сфере безопасности искусственного интеллекта HiddenLayer привлёк 100 миллионов долларов в рамках раунда Series B на фоне ускорения усилий компаний по защите своих AI-систем. В раунде под руководством Delta-v Capital приняли участие Ten Eleven Ventures, Morgan Stanley, фонд M12 корпорации Microsoft и Booz Allen Hamilton.
Соучредитель и CEO HiddenLayer Chris Sestito сообщил, что годовой регулярный доход компании за последний год вырос более чем в 10 раз. Не называя точных цифр, Sestito заявил, что доход теперь составляет «десятки миллионов» долларов, а более 90 % роста обеспечили новые клиенты, привлечённые за последний год. Среди основных клиентов компании — финансовые организации и крупные технологические компании, разрабатывающие AI-продукты. HiddenLayer также имеет контракты с Министерством обороны и разведывательным сообществом; один из её клиентов — «ведущий поставщик передовых моделей» с более чем 700 миллионами пользователей в неделю.
По оценке Gartner, в этом году компании потратят 2,83 миллиарда долларов на продукты для защиты AI-инструментов, что означает рост на 83 % по сравнению с 2025 годом. Ожидается, что в следующем году расходы достигнут примерно 4,78 миллиарда долларов.
Базирующаяся в Austin компания HiddenLayer разрабатывает продукты, защищающие AI-модели, агенты и рабочие процессы от атак, уязвимостей и внедрения вредоносного кода. Сохранив свои продукты 2023 года, компания расширила сферу деятельности, включив в неё защиту от внедрения вредоносных промптов, манипулирования агентами и использования вредоносных инструментов. Её продукты ориентированы на обнаружение, защиту во время выполнения, моделирование атак и безопасность цепочки поставок. Sestito отметил, что по мере распространения внедрений AI защита во время выполнения стала приоритетом и напоминает специализированные для AI решения по обнаружению угроз и реагированию на конечных устройствах, то есть EDR.
HiddenLayer также сканирует около 50 различных форматов файлов AI, чтобы исследовать риски в моделях с открытым исходным кодом и открытыми весами. Компания стремится выявлять такие угрозы, как представление моделью себя не тем, чем она является, или сокрытие других моделей.
Новые инвестиции будут направлены на развитие инженерных разработок и исследований, расширение продаж и дистрибуции, а также выход в Европу и регион EMEA. HiddenLayer признаёт, что такие компании, как Microsoft, OpenAI и AWS, могут включить некоторые функции безопасности AI в свои платформы, однако считает, что AI-инфраструктура будет в большей степени сосредоточена на таких функциях управления, как обнаружение, идентификация и контроль политик.
Почему это важно
Инвестиции показывают, что расширение использования AI увеличивает потребность не только в разработке моделей, но и в их мониторинге и защите во время работы. То, что такие разные группы клиентов, как финансовые организации, крупные технологические компании и государственные учреждения, сталкиваются с одними и теми же проблемами безопасности, объясняет, почему продукты ориентируются на более широкую область — от модели до агента и рабочего процесса. Сканирование моделей с открытым исходным кодом и открытыми весами указывает на то, что риски могут быть связаны не только с внешними атаками, но и с надёжностью файлов моделей и цепочки поставок. Вместе с тем добавление крупными технологическими компаниями функций безопасности на собственные платформы оставляет открытым вопрос о том, как HiddenLayer будет выделяться в области управления и защиты во время выполнения.
Термин: агент
AI-агент — это программное обеспечение, которое не просто генерирует единичный ответ, а вызывает инструменты и выполняет многоэтапные задачи для достижения цели.