OpenAI, frontier yapay zekâ laboratuvarlarının modellerin güvenli eğitim, değerlendirme ve dağıtımından sorumlu olduğunu belirterek bağımsız üçüncü taraf değerlendirmelerini destekleyeceğini açıkladı. Bu çalışmaların, güvenlik iddialarını sınaması, gözden kaçan riskleri ortaya çıkarması ve laboratuvarların hesap verebilirliğini artırması amaçlanıyor. Değerlendiricilere eğitim, değerlendirme ve dağıtım süreçlerinde teknik güvenlik önlemleri, chain of thought erişimi, gizli veriler ve olay müdahalesi için iç dağıtım sistemlerine erişim sağlanabileceği belirtildi.
OpenAI, “güvenlik iddiası”nı bir model veya sistemin güvenliğiyle ilgili, kanıtlarla sınanabilir belirli bir ifade; “güvenlik dosyası”nı ise belirli bir faaliyet için risklerin yeterince yönetildiğini kanıtlarla açıklayan yapılandırılmış bir argüman olarak tanımladı. Değerlendirmelerin haftalar veya birkaç ay sürebileceği, farklı çalışmaların paralel yürütülebileceği ve özellikle belirli güvenlik iddialarını uzun vadede incelemeye odaklanacağı kaydedildi.
Daha kapsamlı değerlendirme için dört öncelik alanı şöyle sıralandı:
- Eğitim, değerlendirme, iç dağıtım ve dış dağıtımı kapsayan güvenlik dosyalarının bağımsız incelenmesi; güvenlik iddialarının kanıtlarla desteklenip desteklenmediği, süreç koşullarına uyulup uyulmadığı ve kritik risklerin kapsanıp kapsanmadığının değerlendirilmesi.
- İç ve dış dağıtımlardaki kritik güvenlik önlemlerinin incelenmesi; jailbreak’lere, yüksek riskli siber, biyolojik ve kimyasal yetenek artışlarına, siber savunmalara ve model uyumsuzluğu izleyicilerindeki boşluklara karşı dayanıklılığın test edilmesi.
- Preparedness risk kategorilerini, yani Chemical and Biological Risks, Cybersecurity ve AI Self-Improvement alanlarını kapsayan yetenek değerlendirmeleri ile ciddi uyumsuzluk risklerine yönelik değerlendirmelerin incelenmesi; eşiklerin ve testlerin güncelliğinin sınanması.
- Yetkisiz davranma veya gözetimden kaçma gibi kritik model uyumsuzluğu olaylarının bağımsız soruşturulması; olayın nedenleri ile güvenlik önlemleri ve düzeltmelerin benzer olayları önleyip önleyemeyeceğinin araştırılması.
İlkeler; kapsam ve iddiaların önceden ortak belirlenmesi, orantılı erişim, şeffaf yöntem ve standartlar, uzmanlık ve bağımsızlık, bilgi güvenliği ve gizlilik, düzeltme için uygulanabilir bulgular, ayrıca kanıta dayalı ve hassas bilgileri koruyan sorumlu yayımlama olarak açıklandı. Değerlendiricilerin çıkar çatışmalarını açıklaması, güvenlik şartlarını karşılaması ve raporlarında belirsizlikleri belirtmesi gerektiği vurgulandı. OpenAI, bağımsız değerlendirici ekosistemini ve ortak uluslararası standartların geliştirilmesini destekleyeceğini bildirdi.
Neden önemli
Bu yaklaşım, yapay zekâ güvenliğinin yalnızca laboratuvarların kendi beyanlarıyla değerlendirilmesi yerine, dış uzmanların kanıtları ve süreçleri sınayabildiği bir denetim çerçevesine taşınmasını hedefliyor. Böylece geliştiricilerin güvenlik dosyaları, testlerin yeterliliği ve kritik olaylara verdikleri yanıtlar kurum dışından incelenebilir hale geliyor. Çerçeve özellikle yüksek riskli siber, biyolojik ve kimyasal yetenekler ile modelin gözetimden kaçması gibi alanlarda bağımsız incelemenin kapsamını genişletiyor. Ancak değerlendiricilerin hassas verilere erişimi ile sorumlu yayımlama arasındaki denge, bulguların kamuya ne ölçüde yansıyacağını belirleyen temel mesele olarak açık kalıyor. Ortak uluslararası standart arayışı da farklı değerlendirmelerin karşılaştırılabilirliği açısından önem taşıyor.