Anthropic CEO Dario Amodei主张应放慢人工智能开发速度，并公布了一项三阶段计划。Amodei表示，近几个月人工智能取得了“显著更快”的进展，开发下一代人工智能的能力也有所提升，因此，OpenAI-Hugging Face黑客事件要求采取更加谨慎的做法。Amodei称，应降低“前沿”人工智能研究的推进速度；但他表示，如果谨慎利用因此争取到的时间，进展仍将保持快速。
该计划的第一步，是让METR等第三方机构的“常驻评估员”在人工智能公司任职。计划要求这些人员监督公司是否遵守安全承诺和放慢开发速度的承诺，并确保安全事件得到报告。Amodei表示，Anthropic将单方面落实这一做法，并为评估员提供公司身份凭证、工作空间和笔记本电脑。除法律或合同限制外，这些人员计划拥有与公司内部风险评估团队大体相同的访问权限。OpenAI CEO Sam Altman支持这一提议，并宣布其公司也将采取同样的措施。
第二项建议是，让民主国家的主要人工智能公司开展协调，以制定共同的安全标准，并为不受监督的开发速度设定限制。Amodei表示，鉴于反垄断方面的担忧，希望美国政府促成这些讨论，或针对特定的安全讨论提供有限豁免。
Amodei还主张，可以放缓中国在人工智能领域的进展。他表示，如果美国政府和科技公司阻止向中国企业出售高性能芯片和半导体制造设备，并采取措施应对模型蒸馏，美国将在未来3至5年内大幅扩大其领先优势。
第三阶段，是美国及其盟友尽可能与威权政府建立全球协调。Amodei表示，与中国的合作可能会受到限制，但可以达成一些范围较窄的协议，例如禁止将人工智能用于生产生物武器。
Anthropic研究员Jacob Coxon以公司将人类生命置于风险之中为由辞职。Amodei的做法被一些人士认为过于悲观，而记者Brian Merchant则认为，这些警告掩盖了当前已经造成的危害。Amodei则表示，他相信人工智能能够大幅提升生活质量，但这取决于能否以正确的方式开发这项技术。
为何重要
这一建议使“人工智能安全不应停留在企业自我声明层面，而应接受独立审计”的讨论具体化。赋予评估人员类似于企业内部风险团队的访问权限，将如何验证安全承诺以及何时报告事件等问题，直接转化为公司治理问题。呼吁企业间建立共同标准，则凸显了竞争法与公共安全之间的紧张关系；因此，美国政府可能发挥的作用不仅是技术问题，也是监管问题。限制芯片和半导体设备以及与中国达成有限协议的建议，表明讨论已延伸至技术贸易和国际安全领域。然而，辞职和批评表明，放慢速度并未得到所有人的认可，而应优先处理哪些风险仍不明确。
背景
Anthropic并不是FikirPilot档案中的新名字：过去90天内，我们发布了20篇提及这一名称的新闻；最新一篇发表于2026年9月13日。