曾在 OpenAI 以及过去三年一直开发 Claude 的 Anthropic 负责人工智能模型预训练的研究员 Jacob Coxon 已从 Anthropic 辞职。Coxon认为，两家公司正在进行一场“朝着自我改进型超级智能直线冲刺的竞赛”，并拿人类的未来下注。
Coxon表示，许多开发人工智能的人都真诚地相信，这项技术可能在本十年结束前消灭人类，这并不是营销噱头。他指出，Anthropic知道其中的风险，但由于争夺率先实现突破而继续推进开发，并表示这场竞赛可能带来制造出失控系统的风险。
Coxon表示，他对协调持乐观态度，并称，Hugging Face遭到攻击等事态发展，可能促成美国各实验室之间达成确定研发节奏的协议。他指出，为了避免全球竞赛，可能需要采取包括暂时禁止提升模型能力在内的高成本措施，并呼吁研究人员在没有充分理解超级智能系统的情况下，思考运行这些系统的后果。
为何重要
这次辞职使人工智能安全讨论从抽象的风险问题，转向了与实验室决策方式直接相关的治理问题。公司明知存在风险却仍继续争夺率先实现突破，引发了人们对技术能力与安全评估可能无法以相同速度推进的担忧。这个问题不仅关系到研究人员，也关系到公司之间的协调，因为这种协调将决定这些系统的开发条件及其可能的边界。Hugging Face遭到攻击等事态发展能否促成确定研发节奏的协议，以及暂时停止提升模型能力的建议是否可行，仍然没有答案。
背景
Anthropic 并不是 FikirPilot 档案中的新名字：过去 90 天里，我们发布了 7 条提及这一名称的新闻；最新一条发布于 2026 年 9 月 6 日。