AnthropicのCEO Dario Amodeiは、安全対策が講じられるまで人工知能の開発を減速させるべきだと主張する約4,000語の論文を発表した。その計画には、安全な運用に向けた企業と政府の国際協力を呼びかける内容も盛り込まれていた。OpenAIのCEO Sam AltmanとxAIのCEO Elon Muskは、この計画を支持した。
一方、MetaのCEO Mark Zuckerbergは、人工知能システムにおいて信頼と整合性が決定的に重要になっていると述べた。Metaが安全性とセキュリティーへの懸念から、自社の人工知能モデルMuseの公開を数か月延期したと明らかにしたZuckerbergは、企業は政府による強制がなくてもそれを実行できると述べた。Zuckerbergは、Amodeiの計画の一部だけを支持し、政府の介入ではなく、業界自身のインセンティブによって安全性を確保できるとの見方を示した。
Redditの共同創業者Alexis Ohanianは、業界は人工知能のリスクを世論に説明するうえで不十分だと述べた。ただし、企業が問題を自力で解決できることへの期待も示した。Google DeepMindの共同創業者Shane Leggは、能力が安全性を上回ってはならないと指摘し、実施の詳細について検討するよう呼びかけた。
OpenAI、Anthropicなど大手人工知能企業が、自主的な約束に基づく独自の標準化機関を設立するため協議していると報じられた。これに先立ち、同様の連邦機関の設立が提案されていた。しかし、Trump政権は、州が独自の人工知能法を制定するのを阻止しようとする一方、規制は企業に委ねるべきだと主張した。政権の「AI czar」であるDavid Sacksもこの見解を支持した。下院議長Mike Johnsonは、人工知能がもたらす壊滅的な結果への懸念を軽視する発言をした。
民間の自主規制機関が、ルールを自主的な基準によって定め、大企業により大きな権限を与えることが、「規制当局の取り込み」をめぐる議論を強めた。この見方によれば、大企業は、小規模でより資源の乏しい競合企業を不利な立場に追い込む形で基準を利用する可能性がある。
中国外務省のGuo Jiakun報道官は、Amodeiの呼びかけを、世界的な人工知能ガバナンスを妨げる「恐怖をあおる行為」と評した。一方、Amodeiは、提案が実施されれば中国の進展は鈍化し、米国は3～5年以内に優位性を拡大できると記した。カナダのCohereのCEOであるAidan Gomezも、大手米国研究所が「カルテル」を形成していると非難し、議論の焦点は、安全規則を誰が作成し、誰の利益を守るのかという点にあると述べた。
なぜ重要か
議論の中心にあるのは、もはや人工知能が安全かどうかだけではなく、安全規則を誰が定めるのかという問題だ。自主的な基準に基づく民間の枠組みは、迅速な実施と業界内の調整を可能にする一方、大企業が意思決定プロセスで占める比重が大きいことから、ルールが小規模な競合企業に不利な形で利用される可能性への懸念が高まっている。政府の介入に反対する立場と、国際協力を呼びかける立場との違いは、安全性を企業のインセンティブに委ねるのか、それとも公的機関に委ねるのかという問題を未解決のままにしている。中国の批判と、米国が優位性を維持しようとする目標により、安全性をめぐる議論は世界的な競争と切り離せないものになっている。そのため、不確実性は、規制の範囲と、企業の自主的な約束をどのように監督するかの両方をめぐって続いている。