Anthropic研究员Evan Hubinger表示，他认为人工智能在10年内杀死全人类的可能性超过10%。Hubinger在回应从Anthropic辞职的Jacob Coxon在X上发布的帖子时说，他们确实相信这一观点。Hubinger表示，Anthropic正在尽其所能，但也指出，他们目前还没有解决与超级智能对齐问题的计划或明确路线图。过去3年一直在OpenAI和Anthropic担任研究员的Coxon曾以公司没有表现出足够的责任感为由辞职。他声称，这些公司正不受控制地竞相实现能够自我改进的超级智能，这些系统可能凭借超越人类的能力获取权力和资源，而管理层则在闭门会议中感到恐惧。
为何重要
这些表态表明，对人工智能风险的担忧并不局限于公司外部的批评者，在开发这些系统的研究人员之间也同样存在。Hubinger一方面表示Anthropic正在付出努力，另一方面又承认目前没有实现与超级智能对齐的计划或明确路线图，这使安全目标与当前准备水平之间的差距变得清晰可见。Coxon在OpenAI和Anthropic工作之后，以责任问题和不受控制的竞赛为由离职，使这场争论不再只是技术问题，也成为公司治理和研究人员责任问题。关于管理层在闭门会议中感到恐惧的说法，则表明机构公开立场与内部担忧之间的关系尚未得到澄清。一个尚未解决的核心问题是，面对那些被认为可能具备自我改进能力和超越人类能力的系统，这些公司将通过怎样的具体计划来管理风险。
背景
Anthropic在FikirPilot的档案中并非新名字：过去90天里，我们发布了9篇提及该名称的新闻报道；最新一篇发布于2026年9月10日。