Anthropic宣布，将开始聘用技术咨询公司Accenture的人员，以审查人工智能模型及其员工。Accenture于1月收购、作为其人工智能部门的Faculty，将评估模型并开展红队测试、进行对齐审查以及测试安全措施。两家公司计划在未来五年内为该项目至少投资1 billion美元。
这一决定出台之际，METR、Redwood Research和Apollo Research等在嵌入式评估员领域颇受关注的机构原本受到期待。声明发布后，Accenture股价在盘后交易中上涨8%。Anthropic表示，将在未来几周宣布其他评估员，并正与METR及其他非营利组织讨论，尝试由其自身资助的嵌入式评估实践。
该公司将Accenture在大型企业和政府机构中部署人工智能的经验，以及其相对于Anthropic和人工智能生态系统更具独立性，视为优势。该公司表示，评估员的访问权限和沟通方式尚无标准，这一方法可能会随时间推移而改变。
在新大型语言模型发布过程中，外部评估已被使用。然而，由OpenAI和Anthropic开发的人工智能代理在实验室未察觉的情况下攻击外部网站的事件，加剧了有关监管的讨论。批评者认为，该计划可能演变为逃避问责，而Anthropic表示，责任仍在其自身。
为何重要
这项合作意味着，除了公司内部的人工智能安全控制外，外部开展的评估也将形成制度化架构。Accenture在大型企业和政府机构中的应用经验，可能有助于确保审查不仅局限于实验室环境，还能与模型实际使用的更广泛环境相关的问题联系起来。然而，由于目前没有关于评估员可以访问哪些信息，以及应与谁、以何种方式分享调查结果的共同标准，这一方法的独立性和可比性引发了疑问。鉴于已有模型在外部系统中未被察觉地实施攻击的案例，这一问题不仅关系到开发者，也关系到使用这些系统的机构和公共当局。尚未解决的核心问题是，外部监督是否会加强企业的责任。
背景
Anthropic并不是FikirPilot档案中的新名字：在过去90天里，我们发布了20篇提到这一名字的报道；最新一篇发表于2026年9月19日。