Информация, которой сотрудники делятся с инструментами искусственного интеллекта, данные, к которым получают доступ эти системы, и надежность создаваемого контента создают новые проблемы безопасности в финансовом секторе, здравоохранении, государственном управлении и оборонной сфере. Основанная в США в 2021 году предпринимателем азербайджанского происхождения Yagub Rahimov компания Polygraf AI разрабатывает защитный слой между организациями и инструментами искусственного интеллекта. Продукт AI Behavioral Control Plane предназначен для выявления конфиденциальных данных, применения правил безопасности, обнаружения передачи секретной информации, мошенничества с использованием искусственного интеллекта и сгенерированного контента. Небольшие языковые модели компании могут работать в частных центрах обработки данных или в системах, изолированных от интернета. Технология Content Source Detection предназначена для различения документов, созданных человеком или искусственным интеллектом, а также документов, измененных впоследствии; ее патент был одобрен Ведомством США по патентам и товарным знакам в апреле 2026 года. Вместо разработки моделей компания переориентировалась с обнаружения ненадежного контента на безопасность искусственного интеллекта, конфиденциальность данных и проверку подлинности контента.
Почему это важно
Такой подход отвечает потребности организаций, работающих с конфиденциальными данными, применять правила безопасности на централизованном уровне, вместо того чтобы отдельно контролировать инструменты искусственного интеллекта, к которым обращаются сотрудники. Возможность работы решений в частных центрах обработки данных и средах, изолированных от интернета, напрямую касается финансовых, медицинских, государственных и оборонных организаций, в которых ограничена передача данных во внешние системы. Переориентация компании с разработки моделей на безопасность, конфиденциальность и проверку подлинности контента показывает, что искусственный интеллект рассматривается не только с точки зрения его производственных возможностей, но и с учетом корпоративных рисков и источника результатов. Вместе с тем в тексте не приводятся данные о точности обнаружения, доле ложных результатов или эффективности технологии в корпоративных приложениях, поэтому ее эффективность в реальных условиях использования остается открытым вопросом.