AnthropicのCEO Dario Amodeiは、AI開発のスピードを減速させる必要があると主張し、3段階の計画を明らかにした。Amodeiは、ここ数カ月でAIの進歩が「劇的に速く」なり、次世代AIを開発する能力も高まっていることから、OpenAI-Hugging Face hack事件を受けて、より慎重なアプローチが必要になっていると述べた。「最先端の」AI研究のスピードを落とす必要があると語ったAmodeiは、確保できる時間を慎重に活用すれば、進歩は依然として速いものになると説明した。
計画の第1段階は、METRのような第三者機関から「常駐評価担当者」をAI企業に配置することだ。これらの担当者が、企業が安全性と減速に関する約束を守っているかを監視し、安全上の事案が報告されるようにすることが想定されている。Amodeiは、Anthropicがこの仕組みを一方的に導入し、評価担当者に企業ID、作業スペース、ノートパソコンを提供すると述べた。これらの担当者には、法的または契約上の制限を除き、企業の内部リスク評価チームとおおむね同等のアクセス権を与える計画だという。OpenAIのCEO Sam Altmanはこの提案を支持し、自社も同じ措置を取ると明らかにした。
第2の提案は、民主主義国の主要AI企業が、共通の安全基準と、監視されない進歩のスピードに対する上限を定めるために連携することだ。Amodeiは、独占禁止法上の懸念を理由に、米国政府がこの協議を促進するか、特定の安全性に関する協議について限定的な免除を認めるよう求めた。
Amodeiは、中国のAIにおける進歩を減速させることも可能だと主張した。米国政府とテクノロジー企業が、高性能チップや半導体製造装置の中国企業への販売を阻止し、モデル蒸留への対策を講じれば、米国は今後3～5年以内にリードを大幅に広げられると述べた。
第3段階は、米国とその同盟国が、可能な限り権威主義的な政府との間で世界的な協調体制を構築することだ。Amodeiは、中国との協力は限定的なものにとどまる可能性があるものの、AIを生物兵器の製造に利用することを禁止するなど、範囲を絞った合意を結ぶことは可能だと述べた。
Anthropicの研究者Jacob Coxonは、企業が人命を危険にさらしていると主張し、辞任した。Amodeiのアプローチは一部から過度に悲観的だと受け止められる一方、ジャーナリストのBrian Merchantは、こうした警告が現在生じている被害を覆い隠していると指摘した。Amodeiはこれに対し、AIが生活の質を大幅に向上させる可能性を信じているが、それは技術が適切な形で開発されることにかかっていると述べた。
なぜ重要なのか
この提案は、AIの安全性を企業自身の声明に委ねるのではなく、独立した監査の対象とすべきだという議論を具体化するものだ。評価者に企業内のリスクチームと同様のアクセス権を与えることは、安全に関する約束をどのように検証するのか、またインシデントをいつ報告するのかという問いを、直接的に企業統治の問題へと変える。企業間の共通基準を求める声は、競争法と公共の安全の間にある緊張を浮き彫りにしており、米国政府が果たし得る役割は、そのため技術面にとどまらず、規制上の問題でもある。チップおよび半導体製造装置の制限と、中国との限定的な合意を提案することは、議論がテクノロジー貿易と国際安全保障の領域へと移っていることを示している。しかし、辞任や批判は、開発のペースを落とすことが誰もが受け入れているわけではなく、どのリスクを優先すべきかが不明確なままであることを明らかにしている。
背景
Anthropicは、FikirPilotのアーカイブにおいて新しい名前ではない。過去90日間に、この名前が登場する記事を20本公開しており、最も新しい記事は2026年9月13日付だ。