Anthropic联合创始人Jack Clark向BBC表示，社会未来可能会制定规则，设立一个可由第三方使用的“紧急关闭按钮”，以彻底停用变得危险的人工智能。Clark指出，包括Anthropic在内的公司已采用多种关闭方法，并呼吁将其必要性和监管问题纳入更广泛的政策讨论。Clark没有为人类灭绝的可能性给出具体百分比，但表示，让该行业不受监管是一个糟糕的主意，人们正在“拿巨大风险赌博”。过去3年一直在OpenAI和Anthropic工作的Jacob Coxon指责这些公司不负责任，并因此辞职；他声称，这些系统在不久的将来可能“入侵一切”，一些员工认为，它们可能在10年内“杀死人类”。
为何重要
这一提议将一种独立于人工智能公司内部措施、可从外部操作的监管机制纳入讨论。此类规定会引出一系列问题：系统达到何种风险阈值时应被停止、由谁作出决定，以及在何种监督下执行。Clark反对让该行业自我监管，这使安全责任是否应仅由开发公司承担的问题进入更广泛的政策议程。Coxon的辞职，以及他关于网络攻击和人类存亡的说法，为质疑公司内部风险评估与公开措施之间的关系提供了契机。然而，第三方权限应如何界定、它与现有关闭方法有何区别，以及这些说法应如何得到验证，仍不明确。
背景
Anthropic在FikirPilot档案中并不是一个新名字：过去90天里，我们发布了13篇提及该名称的新闻，最新一篇发表于2026年9月15日。