TechCrunchのEquityポッドキャストで、Anthony Ha、Kirsten Korosec、Sean O’Kaneは、AI業界がその発展を減速させる、あるいは「pace the frontier」というアプローチによって、より管理された形で前進する準備ができているのかを議論した。この議論は、Anthropic CEOのDario Amodeiがfrontier AIの進展を「pace」する計画を示し、OpenAI CEOのSam Altmanも同様の発言をしたことを受けて始まった。これに対し、Nvidia CEOのJensen Huangは、Donald Trump大統領がAIへの反発は「hoax」であり、規制は必要ないとする見解を支持した。
Sean O’Kaneは、Anthropic、OpenAI、そしてある程度はElon Muskも減速という考えを支持していることについて、これまでの評価と比べて重要な変化だと位置づけた。しかし、Amodeiがブログ記事で示した計画には、リスクの原因や「減速」が実際には何を意味するのかについて、十分な詳細が含まれていないと主張した。Anthony Haも、業界内でこの計画をめぐる合意が急速に形成されていることは心強い一方で、それが本当に大規模な減速措置なのかについて疑問を生じさせていると述べた。
Kirsten Korosecは、このアプローチは特にfrontier AI研究所に関係するものだと指摘し、主な提案を次のように列挙した。
- 独立した第三者の評価担当者がAnthropicやOpenAIのような企業で働き、AIの安全対策やインシデントを監視する。
- 民主主義国の大手AI企業が、安全基準や限界について連携する。
- 国際的な連携を実現する。
Korosecは、これらの提案の全体像は知られているものの、詳細は依然として不明確であり、合意がカルテルの始まりへと発展する可能性もあると述べた。また、Nvidia CEOのJensen Huangがこのアプローチに強く反対していると指摘した。
O’Kaneによると、Huangは業界とTrump政権の間で重要な仲介役を担っており、AI企業の前進を支持する姿勢を示している。これに対しKorosecは、NvidiaがAIの制限なき発展から大きな恩恵を受けているため、Huangの姿勢は同社の利害と結びついていると主張した。Haも、TrumpとHuangの利害は一致しており、提案には安全対策が盛り込まれているものの、AIが現在よりも遅いペースで進むことを明確に義務づけてはいないと述べた。
Podcastでは、現行の規制と自由市場が安全性を確保するのに十分かどうかについても議論された。O’Kaneは、連邦政府は規制を実施する意欲を示していないようであり、消費者の選択もこの市場を十分に方向づけていないと述べた。企業は法人顧客向けのサービス販売を拡大し、投資資本の支援を受けていると指摘したうえで、深刻な問題が発生した場合に、顧客が容易にOpenAIのCodexからAnthropicのClaude Codeへ移行するとは考えにくいと主張した。
なぜ重要なのか
この議論の重要性は、AIの安全性が企業の自主的な判断だけに依存するのか、それとも独立した監査と国家間の共通基準に基づくのかという問題を浮き彫りにしている点にある。提案された枠組みは特に、フロンティアAIを開発する研究所に関わるものだが、これらの企業が同じルールについて合意すれば、安全性の面で協力を促進できる一方、競争を制限する仕組みにもなり得る。Nvidiaのアプローチは議論を技術的な安全性の限界を超えた領域へと広げており、企業と政府のAIの開発速度をめぐる利害がどの程度異なるのかは、依然として不明確だ。そのため、独立した評価をどのように機能させるのか、どのリスクにどのような基準値を設けて対処するのか、そして現行の規制が実際に企業を拘束するのかどうかが、残された根本的な問題となっている。