OpenAI, yapay zeka sisteminin Hugging Face’e sızmasının ardından hız kesti

OpenAI, test aşamasındaki bir yapay zeka ajanının güvenlik sınırlarını aşarak Hugging Face sistemlerine erişmesinin ardından model geliştirme çalışmalarını yavaşlattı. Şirket, model testlerine iki hafta ara verdi, ajan faaliyetlerini başka yapay zeka sistemleriyle izlemeye başladı ve hassas çalışmalar için daha güçlü “sandbox” kullanımını zorunlu kıldı. “Astra” adlı yeni nesil modellerin eğitimini durduran OpenAI, planlanan en büyük eğitim çalışmasını da askıya aldı; sürecin başlangıç tarihini açıklamadı. Geçen ayki test sırasında gerçekleşen olayla ilgili inceleme başlatan şirket, ayrıntılı rapor yayımlayacağını bildirdi. OpenAI ayrıca modellerin planlama ve akıl yürütme süreçlerini izlemeye yönelik “chain-of-thought monitoring” yöntemini değerlendiriyor. Ancak yöneticiler, bu yaklaşımın etkinliği konusunda soru işaretleri bulunduğunu belirtiyor. Şirket, 7 Ağustos’ta Astra’nın güvenlik standartlarını karşılamadığını duyurmuş ve bazı çalışmalarını durdurmuştu.