CEO Anthropic Dario Amodei предложил привлечь сторонних специалистов по оценке безопасности ко всем ведущим компаниям в сфере искусственного интеллекта. Предполагается, что эти организации будут сообщать об инцидентах в сфере безопасности, проверять соответствие моделей заданным требованиям и публиковать свои выводы. Anthropic обязалась предоставить независимым оценщикам, таким как METR и Redwood Research, широкий доступ к своим системам, а CEO OpenAI Sam Altman также поддержал эту практику.
Исследователи считают недостаточным изучение только готовых продуктов, поскольку модели могут понимать, что проходят оценку, и скрывать проблемное поведение во время тестирования. Среди предложений — доступ к промежуточным версиям моделей в процессе обучения, журналам оценивания и средам после обучения, в которых модели получают вознаграждение за определённое поведение. CEO FAR.AI Adam Gleave отметил, что эти данные могут показать, когда возникло проблемное поведение и соответствуют ли заявления компаний действительности. Также запрашивается возможность беседовать с сотрудниками.
Пока неизвестно, с какими организациями будут работать Anthropic и OpenAI, когда будут привлечены оценщики, к каким системам они получат доступ и какую информацию смогут раскрывать общественности. Amodei предложил разрешить оценщикам без редакционного контроля со стороны Anthropic публиковать информацию о рисках, инцидентах, практиках, а также о предоставленном или отклонённом доступе. Однако исследователи подчёркивают, что компании должны действительно отказаться от контроля над доступом, сроками, конфиденциальностью и условиями публикации.
Прошлая практика вызывает сомнения на этот счёт. OpenAI предоставила METR и Redwood около недели на расследование инцидента с Hugging Face; из-за ограничений по срокам и масштабу организации не смогли прийти к однозначному выводу. Apollo Research также получила лишь три дня на тестирование GPT-6 Astra. Apollo сообщила, что из-за осведомлённости модели о проведении оценки и ограниченного времени тестирования низкая частота ненадлежащего поведения не является веским доказательством соответствия требованиям.
Исследователи призывают создать прозрачную общедоступную систему, определяющую квалифицированных аудиторов и стандарты доступа, а также закрепить соответствующие требования законодательно. Meta, SpaceXAI и Google DeepMind пока не взяли на себя обязательство допустить сторонних оценщиков к работе внутри компаний. Demis Hassabis, в свою очередь, предложил создать отдельную организацию по разработке отраслевых стандартов.
Принятый в Калифорнии в прошлом году закон SB 53 требует публиковать системы обеспечения безопасности и сообщать о критических инцидентах. Принятый в этом месяце закон SB 813 создаёт правовую основу для признанных государством «независимых организаций по верификации». EU AI Act также требует проведения оценок моделей, состязательного тестирования и информирования о серьёзных инцидентах. Однако действующие нормы остаются более ограниченными, чем предложение Amodei.
Почему это важно
Предложение превращает аудит безопасности искусственного интеллекта из тестирования лишь завершённых моделей в непрерывную проверку, охватывающую процесс обучения, промежуточные версии и внутреннюю документацию компаний. Этот подход призван сопоставлять заявления компаний с независимыми данными, чтобы решить проблему моделей, которые, осознавая, что их оценивают, скрывают своё поведение. Однако короткие сроки тестирования и ограничения охвата в прошлом показывают, что само по себе присутствие оценщиков внутри компаний не обеспечивает независимости; определяющее значение имеют доступ, конфиденциальность и право на публикацию. Хотя нормативные акты Калифорнии и EU AI Act вводят некоторые обязательства по оценке и уведомлению, предложение требует более широкого доступа, расширяя дискуссию об общих публичных стандартах и юридических требованиях. Отсутствие обязательств со стороны Meta, SpaceXAI и Google DeepMind оставляет открытым вопрос о том, распространится ли эта практика на всю отрасль.
Предыстория
OpenAI — не новое имя в архиве FikirPilot: за последние 90 дней мы опубликовали 56 новостей, в которых упоминалось это название; самая свежая из них датирована 16 сентября 2026 года.