Anthropic CEO Dario Amodei发表了一篇约4,000字的文章,主张在采取安全措施之前,应放缓人工智能的开发。他的计划还呼吁企业和政府之间开展国际合作,以确保安全应用。OpenAI CEO Sam Altman和xAI CEO Elon Musk支持这一计划。
Meta CEO Mark Zuckerberg表示,信任与合规已成为人工智能系统的决定性因素。Zuckerberg宣布,由于安全和保障方面的担忧,Meta将其人工智能模型Muse的发布推迟数月,并指出企业无需政府强制也能做到这一点。Zuckerberg仅支持Amodei计划中的部分内容,并提出,与政府干预相比,通过行业自身的激励机制也可以确保安全。
Reddit联合创始人Alexis Ohanian表示,该行业在向公众解释人工智能风险方面做得不够;但他也表达了对企业能够自行解决问题的希望。Google DeepMind联合创始人Shane Legg则表示,能力不应凌驾于安全之上,并呼吁研究具体的实施细节。
据报道,OpenAI、Anthropic和其他大型人工智能公司正在磋商成立一个基于自愿承诺的独立标准组织。此前也有人提议建立类似的联邦机构。然而,特朗普政府一方面试图阻止各州制定自己的人工智能法律,另一方面主张应将监管交给企业。政府的“AI czar”David Sacks也支持这一观点。众议院议长Mike Johnson则发表声明,淡化了人们对人工智能可能造成灾难性后果的担忧。
一家私人自律机构通过自愿标准制定规则,并赋予大型企业更多权力,这加剧了有关“监管机构被俘获”的争论。根据这一观点,大型企业可能会利用这些标准,使规模较小、资源较少的竞争对手陷入不利境地。
中国外交部发言人Guo Jiakun将Amodei的呼吁称为阻碍全球人工智能治理的“散播恐惧”。Amodei则写道,如果落实其建议,中国的进步将会放缓,而美国可能在3–5年内扩大自身优势。加拿大Cohere CEO Aidan Gomez也指责美国大型实验室组建“卡特尔”,并表示争论的核心在于由谁制定安全规则,以及这些规则将保护谁的利益。
为何重要
如今,争论的核心已不再只是人工智能是否安全,还包括由谁制定安全规则。基于自愿标准的私人机制可以实现快速执行和行业内部协调;但大型企业在决策过程中的影响力,也加剧了人们对规则可能被用来打压小型竞争对手的担忧。反对政府干预的立场与呼吁开展国际合作之间存在差异,这使得安全究竟应交由企业自身的激励机制,还是交由公共权力来保障,仍是一个悬而未决的问题。中国的批评以及美国维护自身优势的目标,使安全争论无法脱离全球竞争而单独存在。因此,无论是监管范围,还是企业自愿承诺将如何受到监督,相关不确定性仍在持续。