Microsoftの共同創業者であるBill Gatesは、人工知能のための世界的な監督枠組みを構築することは、冷戦期の核兵器制限交渉よりも難しくなるだろうと述べた。NBC Newsの番組「Meet the Press」に出演したGatesは、米国がこの分野で世界的なリーダーシップを発揮すべきであり、安全性に関する監督が同国を技術競争で後れを取らせることはないと指摘した。
Gatesによると、近い将来における最大のリスクは、人工知能が悪意ある人物に利用されることだという。サイバー攻撃やバイオテロ行為は小規模な集団でも実行できると警告したGatesは、研究所内に監視と安全確保の仕組みを整備するよう求めた。議会で取り上げられている「緊急停止ボタン」の構想を支持するGatesは、それだけでは十分ではなく、プロセスを透明性のある形で監視する必要があると述べた。
なぜ重要か
この議論は、人工知能の安全性がテクノロジー企業の社内方針だけでは解決できず、各国間の連携を必要とするガバナンスの問題であることを示している。米国にリーダーシップを発揮するよう求める声は、安全規則を技術競争の足かせとせず、どのように適用するのかという問題も提起している。リスクが悪意ある小規模な集団によるアクセスから生じる可能性があるとの警告は、監督が大規模システムの挙動を監視することだけに限定されてはならないことを示している。研究所内の管理、透明性のある監視、緊急停止の選択肢を一体的に検討するにしても、それらをどのような共通ルールに結び付け、各国間でどのように適用するのかは明らかになっていない。そのためこの問題は、研究者、テクノロジー企業、安全保障機関、立法機関にとって共通の責任領域となっている。
背景
SavaşはFikirPilotのアーカイブでは新しい名前ではない。直近90日間にこの名前が登場するニュースを9本公開しており、最新のものは2026年9月27日付だ。