По мере расширения доступа ИИ-агентов к корпоративным системам и интернету формируется новая цепочка поставок программного обеспечения, включающая навыки, плагины, MCP-серверы и другие инструменты, используемые этими агентами. Основанный Yair Saban и Niv Hoffman, ранее служившими в израильском разведывательном подразделении Unit 8200, стартап в сфере кибербезопасности AIR вышел из режима скрытой разработки, чтобы контролировать эту экосистему, и привлёк в общей сложности $50 миллионов в рамках двух посевных раундов. Первый раунд на $10 миллионов возглавила Sequoia, второй на $40 миллионов — Greenoaks. В раундах также приняли участие Swish, Netz, Zach Frankel, Yinon Costica, Ofir Ehrlich, Anne Neuberger, Omer Adam, Varun Anand и другие бизнес-ангелы.
Платформа AIR обнаруживает агентов внутри компании и постоянно контролирует навыки, инструменты и компоненты, которые они используют; она блокирует взаимодействие с программным обеспечением или внешними ресурсами, не соответствующими требованиям безопасности. Система также определяет, используют ли сотрудники инструменты ИИ или личные аккаунты, не одобренные подразделениями информационных технологий. В ней предусмотрен уровень контроля, анализирующий такие действия агентов, как установка плагинов или загрузка контента из интернета. Компания сопоставляет инструменты и программное обеспечение, которые агенты хотят использовать, со своим белым списком; навыки и плагины, найденные в интернете, повторно проверяются на предмет изменений и вредоносного поведения. AIR заявляет, что фильтрует около 27% обнаруженных онлайн-плагинов и навыков.
По словам Saban, более автономная работа агентов с базами данных и корпоративными системами может позволить злоумышленникам отравлять контент, который потребляет агент, вместо того чтобы напрямую атаковать его. У AIR более 20 клиентов, и около четверти из них — крупные предприятия. Наибольший спрос поступает из строго регулируемых отраслей, особенно от компаний, предоставляющих финансовые услуги, и фармацевтических компаний.
На рынке аналогичные продукты также предлагают Noma Security, Zenity, Astrix Security и Operant AI. В августе Zenity получила $125 миллионов инвестиций в рамках Series C, а Noma в прошлом году — $100 миллионов в рамках Series B. Saban утверждает, что отличие AIR заключается в способности постоянно проводить повторную проверку. В компании работает около 40 сотрудников; новый капитал будет использован для найма исследователей и выхода на рынки США и Европы.
Почему это важно
Более независимые действия агентов искусственного интеллекта внутри организаций расширяют границы безопасности: они начинают охватывать не только саму модель, но и используемые ею плагины, навыки и внешние источники. Поэтому этот вопрос напрямую связан с тем, как контролировать использование сотрудниками несанкционированных инструментов и контент, который агенты получают из интернета, особенно в регулируемых отраслях, таких как финансовые услуги и фармацевтика. Заявление AIR о фильтрации около 27% компонентов, доступных в интернете, указывает на необходимость постоянной оценки безопасности в этой экосистеме. Однако вопрос о том, насколько подход компании отличается от подходов конкурентов и как применяемые блокировки повлияют на повседневные рабочие процессы организаций, остается открытым. По мере расширения прав доступа агентов эта сфера создает для компаний новое направление контроля цепочки поставок.
Термин: агент
Агент искусственного интеллекта — это программное обеспечение, которое вместо генерации одного ответа вызывает инструменты и выполняет многоэтапные задачи для достижения цели.