在 TechCrunch 的 Equity 播客中,Anthony Ha、Kirsten Korosec 和 Sean O’Kane 讨论了人工智能行业是否准备放缓发展,或采取“pace the frontier”的方式,以更加可控的速度推进。讨论是在 Anthropic CEO Dario Amodei 提出旨在“pace”前沿人工智能发展速度的计划,以及 OpenAI CEO Sam Altman 作出类似表态后开始的。Nvidia CEO Jensen Huang 则支持总统 Donald Trump 的观点,即反人工智能的反弹是一个“hoax”,没有必要进行监管。
Sean O’Kane 表示,Anthropic、OpenAI 以及在一定程度上的 Elon Musk 支持放缓发展的想法,与他们此前的评估相比是一个重大变化。不过,他认为 Amodei 在博客文章中提出的计划,并未就风险的原因以及“放缓”在实践中究竟意味着什么提供足够细节。Anthony Ha 也表示,尽管围绕该计划迅速形成的行业共识令人鼓舞,但这也让人怀疑它是否真的是一次大规模的放缓行动。
Kirsten Korosec 表示,这一做法尤其涉及前沿 AI 实验室,并列出了主要建议:
- 让独立的第三方评估机构在 Anthropic 和 OpenAI 等公司工作,监督人工智能安全措施及相关事件。
- 让民主国家的大型人工智能公司就安全标准和边界展开协调。
- 在国际层面实现协调。
Korosec 表示,人们已经了解这些建议的大致框架,但细节仍不明确,而且这种共识也可能演变成卡特尔的开端。她还指出,Nvidia CEO Jensen Huang 强烈反对这一做法。
据 O’Kane 称,Huang 在该行业与 Trump 政府之间扮演着重要的中间人角色,并表现出支持人工智能公司继续发展的立场。Korosec 则认为,Huang 的立场与其自身利益有关,因为 Nvidia 在人工智能不受限制地发展过程中获得了巨大利益。Ha 还表示,Trump 与 Huang 的利益是一致的,尽管这些建议包含安全措施,但并未明确要求人工智能的发展速度必须比现在更慢。
播客还讨论了现有监管措施和自由市场是否足以保障安全。O’Kane 表示,联邦政府似乎并不愿意实施监管,消费者的选择也没有充分引导这一市场。他指出,企业向机构客户销售的服务更多,并且得到投资资本的支持,因此如果发生严重问题,不能指望客户轻易地从 OpenAI 的 Codex 转向 Anthropic 的 Claude Code。
为何重要
这场讨论的重要性在于,它凸显了这样一个问题:人工智能安全究竟应当依靠企业的自愿决定,还是依靠独立审查和跨国共同标准。拟议的框架尤其涉及开发前沿人工智能的实验室,而这些公司能否就同一套规则达成共识,既可能促成安全方面的合作,也可能演变成限制竞争的结构。Nvidia 的立场则将讨论带到了技术安全边界之外;企业与公共管理部门在人工智能发展速度方面的利益究竟有多大差异,仍不明确。因此,尚未解决的核心问题在于,独立评估将如何运作、哪些风险应当通过何种门槛加以应对,以及现有监管措施在实践中是否能够约束企业。