Сооснователь Anthropic Jack Clark заявил BBC, что в будущем общество может установить правила для создания «кнопки аварийного отключения», которой сможет воспользоваться третья сторона, чтобы полностью деактивировать ставший опасным искусственный интеллект. Clark отметил, что в компаниях, включая Anthropic, существуют различные способы отключения, и призвал включить вопросы необходимости такого механизма и контроля над ним в широкую политическую дискуссию. Clark не стал оценивать в процентах вероятность исчезновения человечества, но заявил, что оставлять отрасль без контроля — плохая идея и что «на кону стоят колоссальные риски». Jacob Coxon, проработавший последние три года в OpenAI и Anthropic, ушел в отставку, обвинив компании в безответственности; он утверждает, что в ближайшем будущем системы смогут «взломать всё», а некоторые сотрудники считают, что в течение 10 лет они могут «уничтожить человечество».
Почему это важно
Предложение выносит на обсуждение создание в сфере безопасности искусственного интеллекта независимого от внутренних мер компаний механизма контроля, которым можно управлять извне. Такое регулирование порождает вопросы о том, при каком уровне риска, по чьему решению и под чьим надзором должна быть остановлена система. Возражение Clark против саморегулирования отрасли выводит на более широкую политическую повестку вопрос о том, должны ли только компании-разработчики нести ответственность за безопасность. Отставка Coxon и его заявления о кибератаках и угрозе существованию человечества создают основания для обсуждения связи между внутренними оценками рисков в компаниях и публично объявленными мерами. Однако остается неясным, как будут определены полномочия третьей стороны, чем этот механизм будет отличаться от существующих способов отключения и как будут проверяться эти заявления.
Предыстория
Anthropic — не новое имя в архиве FikirPilot: за последние 90 дней мы опубликовали 13 новостей, в которых упоминалось это название; самая свежая датирована 15 сентября 2026 года.