Anthropicの共同創業者Jack ClarkはBBCに対し、危険な状態になった人工知能を完全に停止させる、第三者が使用可能な「緊急停止ボタン」について、社会が将来的にルールを定める可能性があると語った。Clarkは、Anthropicを含む企業にはさまざまな停止方法があるとしたうえで、その必要性と監督を幅広い政策議論に含めるよう求めた。人類が絶滅する可能性をパーセントでは示さなかったClarkは、業界を管理しないままにするのは悪い考えであり、「途方もないリスクを賭けたギャンブルが行われている」と述べた。過去3年間にOpenAIとAnthropicで勤務していたJacob Coxonは、両社を無責任だと非難して辞任した。Coxonは、近い将来、システムが「あらゆるものをハッキングできる」ようになる可能性があり、一部の従業員は、それらが10年以内に「人類を死滅させる可能性がある」と考えていると主張した。
なぜ重要なのか
この提案は、人工知能の安全性をめぐり、企業内部の対策とは独立して外部から作動させられる監督メカニズムについて議論を提起するものだ。このような規制は、システムをどのリスク水準で、誰の判断により、どのような監督の下で停止させるのかという問いを生む。業界を自己監督に委ねることに対するClarkの異議は、安全性への責任を開発企業だけが負うべきかどうかという問題を、より幅広い政策課題へと押し上げている。Coxonの辞任と、サイバー攻撃および人類の存続に関する主張は、企業内のリスク評価と公表されている対策との関係を問う土台となっている。しかし、第三者の権限をどのように定義するのか、既存の停止方法とどう区別するのか、主張をどのように検証するのかは明らかになっていない。
背景
Anthropicは、FikirPilotのアーカイブに初めて登場する名前ではない。過去90日間に、この名前が登場する記事を13本掲載しており、最新の記事は2026年9月15日付だ。