米国国防総省とOpenAIの200 millionドルの契約に関する文書から、同省が軍事利用を目的として、指示を可能な限り拒否しないAIモデルを求めていたことが明らかになった。P00003コードの文書では、「OpenAI Mission Models」システムが国家安全保障のシナリオにおいて最小限の拒否率を持ち、テストを受けることが想定されている。
OpenAIの広報担当者Nate Evansは、この文言は国防総省の以前の草案に含まれていたが、異議を受けて削除され、現行の合意には含まれていないと述べた。国防総省も、現在の契約にそのような条件は存在しないと説明した。しかし、この文書はFOIAの請求で署名済みの契約が求められていたにもかかわらず、草案として表示されていなかった。司法省の弁護士は当初、署名済みで発効していることを確認したが、その後、この確認を撤回した。
OpenAI、Google、Anthropic、xAIは、2025年に国防総省と軍事用AIのプロトタイプ開発を開始した。OpenAIの2月の合意は、大規模な国内監視、自律型兵器、人間の承認なしに行われる高リスクの判断を禁止している。国防総省のシステムはクラウド上で稼働し、安全対策は維持されると説明された。
なぜ重要なのか
文書における拒否率を低減するアプローチは、軍事AIにおいて、運用上の柔軟性と安全対策の維持との間にどのような境界線を引くべきかという問題を浮き彫りにしている。この問題はOpenAIだけでなく、国防総省と同様のプロトタイプを開発している他の企業や、これらのシステムの利用条件を注視する世論にも関わる。合意に含まれているとされる文言が草案なのか、それとも拘束力のある文書なのかが明確になっていないことは、公的機関によるAI調達における文書管理と説明責任の問題を浮かび上がらせている。残された根本的な問いは、軍事利用向けに開発されたシステムでどの指示を拒否するのか、また人間による承認をどの高リスクな判断において必須とするのかを、誰がどの文書に基づいて決定したのかという点だ。
背景
OpenAIは、FikirPilotのアーカイブにおいて新しい名前ではない。直近90日間に、この名前が登場するニュースを36本公開しており、最新のものは2026年9月13日付だ。