Исследователь Anthropic Evan Hubinger заявил, что, по его мнению, вероятность того, что искусственный интеллект сможет уничтожить всех людей в течение 10 лет, превышает 10%. В ответе на публикацию ушедшего из Anthropic Jacob Coxon в X Hubinger сказал, что они действительно в это верят. Отметив, что Anthropic делает всё возможное, Hubinger сообщил, что у них пока нет ни плана, ни чёткой дорожной карты для решения проблемы согласования со сверхинтеллектом. Coxon, последние три года работавший исследователем в OpenAI и Anthropic, ушёл в отставку, заявив, что компании действуют недостаточно ответственно. Coxon утверждал, что компании бесконтрольно соревнуются в стремлении создать самосовершенствующийся сверхинтеллект, что такие системы могут обрести власть и ресурсы благодаря сверхчеловеческим возможностям, а руководители втайне испытывают страх.
Почему это важно
Эти заявления показывают, что обеспокоенность рисками искусственного интеллекта не ограничивается критикой за пределами компаний и существует также среди исследователей, разрабатывающих эти системы. Признание Hubinger, который заявил, что Anthropic прилагает усилия, но при этом отметил отсутствие плана или чёткой дорожной карты по согласованию со сверхинтеллектом, делает заметным разрыв между целью обеспечения безопасности и нынешним уровнем готовности. Уход Coxon после работы в OpenAI и Anthropic на фоне критики безответственности и бесконтрольной гонки превращает эту дискуссию не только в технический вопрос, но и в вопрос корпоративного управления и ответственности исследователей. Утверждение о том, что руководители втайне испытывают страх, указывает на то, что взаимосвязь между публичными позициями организаций и внутренними опасениями остаётся неясной. Главный открытый вопрос заключается в том, с помощью какого конкретного плана эти компании будут управлять рисками, связанными с системами, которые, как утверждается, могут самосовершенствоваться и обладать сверхчеловеческими возможностями.
Предыстория
Anthropic — не новое имя в архиве FikirPilot: за последние 90 дней мы опубликовали 9 новостей, в которых упоминалось это имя; самая свежая датирована 10 сентября 2026 года.