OpenAIと、過去3年間にわたりClaudeを開発してきたAnthropicでAIモデルの事前学習に携わっていた研究者のJacob Coxonが、Anthropicを辞任した。Coxonは、両社が「自己改善する超知能に向けた一直線の競争」を繰り広げ、人類の未来を賭けていると主張した。
Coxonは、AI開発に携わる多くの人々が、この技術によって10年の終わりまでに人類が滅亡する可能性を心から信じており、これはマーケティング上の策略ではないと述べた。Anthropicではリスクが認識されているものの、最初に到達するための競争を理由に開発を続けていると指摘し、この競争には制御不能に陥る可能性のあるシステムを生み出すリスクがあると語った。
Coxonは、協調については楽観的だとし、Hugging Faceへの攻撃のような出来事が、米国の研究所間で開発のペースを定める合意を可能にするかもしれないと述べた。世界的な競争を防ぐには、モデルの能力向上を一時的に禁止するようなコストの大きい措置が必要になる可能性があると指摘し、研究者たちに対して、超知能システムを十分に理解しないまま稼働させることの結果を考えるよう呼びかけた。
なぜ重要か
今回の発言は、AIの安全性をめぐる議論を、抽象的なリスクの問題から、研究所の意思決定のあり方に直接結びつくガバナンス上の問題へと移行させるものだ。企業がリスクを認識しながら最初に到達するための競争を続けていることは、技術的な能力と安全性の評価が同じ速度で進むとは限らないとの懸念を浮上させている。この問題は研究者だけでなく、これらのシステムが開発される条件や、想定される限界を決めることになる企業間の協調にも関わる。Hugging Faceへの攻撃のような出来事が開発のペースを定める合意を可能にするのか、またモデルの能力向上を一時的に停止するという提案が実行可能なのかは、依然として明らかになっていない。
背景
AnthropicはFikirPilotのアーカイブでは目新しい名前ではない。過去90日間にこの名前が登場するニュースを7本公開しており、最新のものは2026年9月6日付だ。