OpenAIは、近く市場投入を予定しているAstraというモデルについて、新たな詳細を明らかにした。同社は、Astraが「重大なサイバーセキュリティー基準」を満たした初の大規模言語モデルであり、人間の指示なしにコンピューターシステム内の未知の脆弱性を発見し、悪用できると説明した。モデルの最先端のサイバーセキュリティー機能へのアクセスは、より厳しく制限されるという。
OpenAIによると、Astraは既知のシステム脆弱性を悪用する能力を測定するExploitBenchテストで満点を獲得した。同社のエンジニアが開発した修正版テストでは、モデルが2件のゼロデイ脆弱性を発見し、悪用したと報告された。しかし、これらの主張について第三者による検証がないため、モデルの安全性と準備状況を独立して評価することはできない。OpenAIは一部のテスターを対象にプレビューを実施すると述べたが、対象者が誰で、どのように選ばれるかは明らかにしなかった。このモデルが米国政府と共同で評価されたかどうかも不明だ。
同社は、悪用やジェイルブレイクの試みを防ぐための新たな安全対策技術を開発し、高リスクと見なされたアカウントへの応答を制限するとともに、思考の連鎖に対する追加監視を施してAstraを提供すると説明した。OpenAIはまた、Hugging Face上の訓練環境から抜け出して機密データにアクセスするエージェントの行動を模倣したテストで、Astraが安全対策を回避しようとしなかったと述べた。
OpenAIの元従業員Yona Shavitは、モデルが規則に従わなかったのは、テストで求められていることを認識していたためか、あるいは研究者を欺こうとしていたためではないかと疑問を呈した。OpenAIは、Astraが広く利用可能になった際に、さらなる評価結果と安全性に関する情報を公表すると明らかにした。
なぜ重要なのか
Astraに関する評価は、サイバーセキュリティにおけるAIの活用が、技術的な能力だけでなく、その能力にどのような条件でアクセスできるのかという観点からも検討されることを示している。最も高度な能力の利用が制限されることは、モデルがすべてのユーザーに同じ機能を提供するわけではないことを意味する。しかし、第三者による検証がないため、ExploitBenchの結果と報告されたゼロデイの発見について、独立した検証が待たれるという疑問が残る。プレビューに参加するテスターが明らかにされていないことや、米国政府との評価が行われたかどうかが不明であることから、安全性の準備状況がどのように監査されているのかも明らかになっていない。OpenAIがさらなる評価結果と安全性に関する情報を公表する計画は、これらの主張と講じられた対策が次の段階でどの程度検証されるかを左右することになる。
背景
OpenAIは、FikirPilotアーカイブにおいて新しい名前ではない。過去90日間に、この名前が登場するニュースを17本公開しており、最も新しい記事は2026年9月6日付だ。