Исследователь Jacob Coxon, работавший над предварительным обучением моделей искусственного интеллекта в OpenAI и в Anthropic, где последние три года разрабатывают Claude, ушёл в отставку из Anthropic. Coxon заявил, что две компании ведут «прямую гонку к самоулучшающемуся сверхинтеллекту» и ставят на кон будущее человечества.
Coxon сказал, что многие люди, занимающиеся разработкой искусственного интеллекта, искренне считают, что эта технология может уничтожить человечество до конца десятилетия, и что это не маркетинговый ход. По словам Coxon, в Anthropic знают о рисках, однако компания продолжает разработку из-за гонки за первенство; он отметил, что эта гонка несёт риск создания систем, способных выйти из-под контроля.
Coxon сообщил, что оптимистично оценивает перспективы координации, и заявил, что такие события, как атака на Hugging Face, могут сделать возможными соглашения между лабораториями США об установлении темпов разработки. По его словам, для предотвращения глобальной гонки могут потребоваться дорогостоящие шаги, например временный запрет на улучшение возможностей моделей. Coxon призвал исследователей задуматься о последствиях запуска систем сверхинтеллекта, не имея достаточного понимания их работы.
Почему это важно
Это заявление переводит дискуссию о безопасности искусственного интеллекта из абстрактной проблемы рисков в вопрос управления, напрямую связанный с тем, как лаборатории принимают решения. То, что компании продолжают гонку за первенство, несмотря на осведомлённость о рисках, вызывает обеспокоенность тем, что технические возможности и оценка безопасности могут развиваться с разной скоростью. Эта тема касается не только исследователей, но и координации между компаниями, которая будет определять условия разработки этих систем и возможные границы их применения. Остаются открытыми вопросы о том, смогут ли такие события, как атака на Hugging Face, сделать возможными соглашения об установлении темпов разработки, а также о том, насколько осуществимо предложение временно приостановить повышение возможностей моделей.
Предыстория
Anthropic — не новое имя в архиве FikirPilot: за последние 90 дней мы опубликовали 7 новостей, в которых упоминалось это имя; самая свежая датирована 6 сентября 2026 года.