GoogleとGoogle DeepMindの研究者らは、汎用人工知能（AGI）をめぐる議論を広げることを目的に、DeepMind Instituteを設立した。同研究所の運営陣には、DeepMindの共同創業者であるShane Legg、Googleの幹部James Manyika、Google DeepMindのCEOであるDemis Hassabisが名を連ねており、Leggは編集責任者も務めている。同組織は、Google、Google DeepMind、そして世界の研究コミュニティーにおける多様な見解を示すことを目指している。
最初の論文集には、AGIの経済的影響を管理する政策、モデルの推論を人間が読み取れる状態に保つこと、人間の福利に関する原則、最先端のAIモデルを評価する枠組みの4本の論文が収録されている。DeepMindの安全性研究者であるRohin ShahとAnca Draganは、強力なモデルの監視を困難にする新たなアーキテクチャーが登場しているにもかかわらず、透明性の低下は避けられないものではないと主張している。研究者、開発者、規制当局に対し、「opaque serial depth」を制限することや、透明性の低いシステムの追跡可能性を証明することなどの選択肢を検討するよう提案している。
一方、Hassabisは、最も高度なモデルを評価する、米国主導の標準化機関の設立を提案している。開発者は当初、モデルを市場投入の30日前までに自主的な審査に提出することになり、制度が有効に機能すれば、評価に合格することが米国での展開要件になる可能性がある。同機関は時間の経過とともに、研究所が結果に合わせてモデルを調整するのを防ぐため、非公開の「held-out」テストを開発する。必要に応じて、最先端AIの開発を協調して減速させることも議題となる可能性がある。これらの論文は、安全性をめぐる議論が一般的な懸念から、具体的な監督や減速の提案へと移行していることを示している。
なぜ重要か
同研究所は、AGIをめぐる議論を単なる技術的能力の問題にとどめず、経済的な管理、人間の福利、透明性、市場へのアクセス条件と合わせて扱う政策分野へと移行させている。この枠組みは、モデル開発者に対して安全性に関する声明を出すだけでなく、システムがどのように監督され、どのような評価を受けたのかを説明することも求めている。規制当局にとって議論の焦点となっているのは、自主的な審査がどのような条件の下で拘束力のある規則へと移行するのかという点だ。非公開テストや協調的な減速の提案は、監督を研究所自身による測定や調整からどの程度独立して実施できるのかという問いを残している。
背景
Googleは、FikirPilotのアーカイブにおいて新しい名前ではない。過去90日間に、この名前が登場するニュースを43本掲載しており、最も新しいものは2026年9月19日付だ。