OpenAI’ın henüz kullanıma sunmadığı Astra modelinin, gelişmiş siber güvenlik yeteneklerinin yanı sıra “recurrent depth” veya “looped transformer” adı verilen bir yöntem kullandığı öne sürülüyor. Bu teknikte bilgiler modelin iç katmanları arasında birden fazla kez dolaştırılarak daha fazla hesaplama yapılabiliyor; ancak akıl yürütmenin daha büyük bölümü doğal dille ifade edilen düşünce zincirinin dışında kalabiliyor.
Yapay zeka güvenliği araştırmacıları, “opaque recurrence” olarak da anılan yaklaşımın modelleri denetlemeyi zorlaştırabileceğini belirtiyor. Ryan Greenblatt, görünür düşünce izlerinin azalabileceğini ve performans yarışının şirketleri daha az gözlemlenebilir mimarilere yöneltebileceğini söyledi. Buck Shlegeris ve Zvi Mowshowitz de endişelerini dile getirirken, Mowshowitz gelecekte düzenleme gerekebileceğini öne sürdü.
OpenAI, Astra’da tekniğin kullanımını sınırlı tutuyor; düşünce zincirinin önemli bölümünün okunabilir kalacağı belirtiliyor. Jakub Pachocki, chain-of-thought takibinin korunduğunu ve temel hedef olduğunu açıkladı. Astra’nın hesaplama derinliğinin GPT-4’ün yaklaşık iki katlık aralığında olduğunu belirten Pachocki’ye karşın OpenAI, looped transformer kullanımını doğrulamadı veya reddetmedi.
Neden önemli
Bu yaklaşımın tartışılması, yapay zekâ modellerinde daha fazla hesaplama ile denetlenebilirlik arasındaki gerilimi öne çıkarıyor. Akıl yürütmenin görünür düşünce zincirinin dışında gerçekleşen kısmı büyüdükçe, araştırmacıların modelin hatalarını, güvenlik sorunlarını ve karar süreçlerini değerlendirmesi zorlaşabilir. OpenAI’ın okunabilir düşünce zincirini korumayı ve yöntemin kullanımını sınırlamayı hedeflediği belirtilse de, Astra’da looped transformer kullanılıp kullanılmadığı henüz netleşmiş değil. Bu belirsizlik, yalnızca modelin teknik kapasitesini değil, güvenlik denetiminin hangi ölçüde mümkün olacağını da gündeme getiriyor. Uzmanların düzenleme ihtimaline ilişkin değerlendirmeleri, performans artışının daha az gözlemlenebilir sistemler pahasına gerçekleşip gerçekleşmeyeceği sorusunu açık bırakıyor.
Arka plan
OpenAI, FikirPilot arşivinde yeni bir ad değil: son 90 günde bu adın geçtiği 12 haber yayımladık; en yenisi 3 Eylül 2026 tarihli.