Birleşmiş Milletler bünyesindeki Bağımsız Uluslararası Yapay Zekâ Bilim Paneli, gelişmiş yapay zekâ ajanlarının riskleri anlaşılmadan güvenlik önlemlerinin ertelenmemesi gerektiğini bildirdi. Geçen yıl kurulan panelin tematik değerlendirmesi, bu yılın başlarında OpenAI ile bağlantılı gündeme gelen Hugging Face saldırısı sonrasında kontrol ve güvenlik sorunlarını inceliyor. Rapora göre hükümetler olayları beklemek yerine erken önlem almalı; bilimsel belirsizlik düzenlemeyi geciktirmemeli. Otonom ve yarı otonom ajanların yetenekleri genişlerken uluslararası koordinasyon, ortak güvenlik ve sorumluluk ilkeleri güçlendirilmeli; kaynak, güvenlik ve hesap verebilirlik mekanizmalarına ayrılmalı. New York’taki BM Genel Kurulu döneminde yayımlanan değerlendirmede António Guterres, ülkeleri birlikte hareket etmeye çağırdı. Guterres, güvenlik standartlarında aşağı yönlü rekabetin kabul edilemez olduğunu söyledi. Panel, kontrol kaybını belirsiz ancak ağır sonuçlu risk sayıyor.
Neden önemli
Değerlendirmenin merkezindeki mesele, yapay zekâ ajanlarının yetenekleri genişlerken güvenlik kararlarının kesin bilimsel kanıt beklenerek ertelenip ertelenemeyeceği. Bu çerçeve, yapay zekâ yönetişimini yalnızca teknik ilerleme değil, erken önlem, ortak standart ve sorumluluğun paylaşılması meselesi olarak konumlandırıyor. Öneriler, ülkeler arasındaki farklı güvenlik yaklaşımlarının kontrol, kaynak tahsisi ve hesap verebilirlik bakımından nasıl uyumlaştırılacağı sorusunu uluslararası koordinasyonun merkezine taşıyor. Ancak kontrol kaybı riskinin belirsiz olması, hangi eşikte hangi önlemlerin zorunlu kılınacağı ve ağır sonuçların sorumluluğunun nasıl dağıtılacağı sorularını açık bırakıyor.
Terim: ajan
Yapay zekâ ajanı, tek bir yanıt üretmek yerine hedefe ulaşmak için araç çağırıp çok adımlı iş yürüten yazılımdır.