OpenAIがまだ提供を開始していないAstraモデルは、高度なサイバーセキュリティ機能に加え、「recurrent depth」または「looped transformer」と呼ばれる手法を採用していると指摘されている。この技術では、モデルの内部層の間で情報を複数回循環させることで、より多くの計算を実行できる。一方で、推論のより大きな部分が、自然言語で表現された思考の連鎖の外部に残る可能性がある。
AI安全性の研究者らは、「opaque recurrence」とも呼ばれるこのアプローチが、モデルの監査を難しくする可能性があると指摘している。Ryan Greenblattは、可視化される思考の痕跡が減少する可能性があり、性能競争によって企業がより観測しにくいアーキテクチャへ向かう可能性があると述べた。Buck ShlegerisとZvi Mowshowitzも懸念を示し、Mowshowitzは将来的に規制が必要になる可能性があると指摘した。
OpenAIはAstraにおけるこの手法の使用を限定的にしており、思考の連鎖の重要な部分は読み取れる状態に保たれるとされている。Jakub Pachockiは、chain-of-thoughtの追跡が維持されており、基本的な目標であると説明した。Astraの計算上の深さはGPT-4の約2倍の範囲にあるとPachockiが述べた一方、OpenAIはlooped transformerの使用を認めても否定してもいない。
なぜ重要か
このアプローチをめぐる議論は、AIモデルにおける計算量の増加と監査可能性の間にある緊張を浮き彫りにしている。推論のうち、可視化された思考の連鎖の外部で行われる部分が大きくなるほど、研究者がモデルの誤り、安全上の問題、意思決定のプロセスを評価することは難しくなる可能性がある。OpenAIは、読み取り可能な思考の連鎖を維持し、この手法の使用を限定することを目指しているとされるものの、Astraでlooped transformerが使用されているかどうかは、いまだ明らかになっていない。この不確実性は、モデルの技術的な能力だけでなく、安全性の監査がどの程度可能なのかという問題も提起している。専門家による規制の可能性についての見方は、性能向上が、より観測しにくいシステムを代償として実現されるのかという疑問を残している。
背景
OpenAIは、FikirPilotのアーカイブにおいて新しい名前ではない。過去90日間に、この名前が登場するニュースを12本掲載しており、最新のものは2026年9月3日付だ。