AnthropicのCEOであるDario Amodeiは、すべての先進的な人工知能企業に第三者の安全性評価機関を置くことを提案した。これらの機関が安全上のインシデントを報告し、モデルのアラインメントを検証したうえで、調査結果を公表することが想定されている。Anthropicは、METRやRedwood Researchなどの独立評価機関に自社システムへの幅広いアクセスを提供すると表明し、OpenAIのCEOであるSam Altmanもこの取り組みを支持した。
研究者らは、モデルが評価されていることを認識し、テスト中に問題のある挙動を隠す可能性があるため、完成品だけを検証するのでは不十分だとみている。提案には、訓練過程にある中間段階のモデル、評価記録、特定の挙動に対してモデルが報酬を与えられる訓練後の環境へのアクセスが含まれている。FAR.AIのCEOであるAdam Gleaveは、こうしたデータによって、問題のある挙動がいつ現れたのか、また企業の説明が事実を反映しているかどうかを確認できる可能性があると述べた。従業員への聞き取りを行う機会も求められている。
AnthropicとOpenAIがどの機関と連携するのか、評価機関がいつ起用されるのか、どのシステムにアクセスできるのか、何を公表できるのかは、まだ明らかになっていない。Amodeiは、評価機関がリスク、インシデント、慣行、許可または拒否されたアクセスについて、Anthropicの編集上の監督を受けずに公表できるようにすることを提案した。しかし研究者らは、企業がアクセス、期間、機密保持、公表条件に対する支配権を実際に手放す必要があると強調している。
過去の対応は、この点に疑念を生じさせている。OpenAIは、Hugging Faceの件を調査するためにMETRとRedwoodに与えた期間は約1週間にすぎず、両機関は調査範囲と時間の制約から明確な結論に至れなかった。Apollo Researchにも、GPT-6 Astraをテストするためにわずか3日間しか与えられなかった。Apolloは、モデルが評価されていることを認識していたこととテスト期間が限られていたことから、不適切な挙動の発生率が低くても、モデルが規則に従っていることを示す強力な証拠にはならないと報告した。
研究者らは、適格な監査機関とアクセス基準を定める、透明で一般に公開された枠組みと法的義務を求めている。Meta、SpaceXAI、Google DeepMindは、第三者評価機関を受け入れることをまだ約束していない。一方、Demis Hassabisは、独立した業界標準化機関を提案した。
カリフォルニア州で昨年成立したSB 53は、安全性の枠組みの公表と重大インシデントの報告を義務付けている。今月可決されたSB 813は、州が認定する「独立検証機関」のための枠組みを設けている。EU AI Actも、モデル評価、敵対的テスト、重大インシデントの報告を義務付けている。しかし、現行の規制はAmodeiの提案よりも限定的なものにとどまっている。
なぜ重要なのか
この提案は、人工知能の安全性監査を完成したモデルのテストだけに限定せず、訓練プロセス、中間バージョン、社内記録にまで及ぶ継続的な検証へと転換するものだ。このアプローチは、モデルが評価されていることを認識して挙動を隠す問題に対し、企業の説明を独立したデータで検証することを目的としている。しかし、過去の短いテスト期間と範囲の制約は、評価者が企業内にいるだけでは独立性は確保されず、アクセス、機密保持、公開権限が決定的に重要であることを示している。カリフォルニア州の規制とEU AI Actは、一部の評価および報告義務を導入しているものの、この提案はより広範なアクセスを求めることで、共通の公開基準と法的義務をめぐる議論を広げている。Meta、SpaceXAI、Google DeepMindが約束していないことから、この取り組みが業界全体に広がるかどうかは未解決のままだ。
背景
OpenAIは、FikirPilotのアーカイブでは新しい名前ではない。過去90日間にこの名前が登場する記事を56件公開しており、最新の記事は2026年9月16日付だ。