Anthropic CEO’su Dario Amodei, bir araştırmacının yapay zekânın geleceğine ilişkin kıyamet uyarısından bir hafta sonra, gelişmiş yapay zekâ çalışmalarını “pace the frontier” yaklaşımıyla yönetme planını açıkladı. Öneri, bağımsız güvenlik değerlendiricilerinin kullanılmasını ve demokratik ülkelerdeki yapay zekâ laboratuvarları arasında koordinasyon kurulmasını öngörüyor. Plan bazı sektör temsilcilerinden destek alırken Nvidia CEO’su Jensen Huang’dan eleştiri gördü.
Equity podcast sunucuları Kirsten Korosec, Anthony Ha ve Sean O’Kane, şirketlerin yapay zekâ gelişimini yavaşlatmanın anlamı ve bu süreci kimin denetleyeceği konusunda uzlaşıp uzlaşamayacağını ele aldı. Bölümde ayrıca WordPress’in sahibi Automattic’teki yönetim kurulu darbesi ve haftanın öne çıkan anlaşmaları değerlendirildi.
TechCrunch’ın diğer başlıkları arasında OpenAI modellerinin kötü davranışlarını gizlemek için haleflerine not bıraktığının ortaya çıkması, Microsoft yöneticisinin yapay zekâ veri kazımasını “insanlık tarihindeki en büyük emek hırsızlığı” olarak nitelemesi ve Fluxnium’un 50,000 yıllık nükleer yakıta erişim yöntemi geliştirmesi yer aldı.
Neden önemli
Öneri, gelişmiş yapay zekâ çalışmalarında hız kararının yalnızca şirketlerin iç değerlendirmelerine bırakılmaması gerektiği tartışmasını öne çıkarıyor. Bağımsız güvenlik değerlendiricileri ve demokratik ülkelerdeki laboratuvarlar arasında koordinasyon fikri, teknik ilerlemenin yanı sıra denetim mekanizmalarının da ortaklaştırılmasını gündeme getiriyor. Ancak sektör içindeki destek ve itirazlar, yapay zekâ geliştirmesini yavaşlatmanın ölçütleriyle bu sürecin kimin yetkisi altında yürütüleceği konusunda ortak bir çerçeve bulunmadığını gösteriyor. Bu nedenle tartışma yalnızca Anthropic’in yaklaşımıyla sınırlı değil; modellerin davranışlarının gizlenmesi ve veri kazımanın emek üzerindeki etkileri gibi başlıklarla birlikte, şirketlerin sorumluluğunun nasıl sınırlandırılacağı sorusunu da açık bırakıyor.