TechCrunch’in Equity podcast’inde Anthony Ha, Kirsten Korosec ve Sean O’Kane, yapay zekâ sektörünün gelişimini yavaşlatmaya ya da “pace the frontier” yaklaşımıyla daha kontrollü ilerlemeye hazır olup olmadığını tartıştı. Tartışma, Anthropic CEO’su Dario Amodei’nin sınır yapay zekâsının ilerleyişini “pace” etmeye yönelik planı ve OpenAI CEO’su Sam Altman’ın benzer açıklamalarının ardından başladı. Nvidia CEO’su Jensen Huang ise Başkan Donald Trump’ın yapay zekâ karşıtı tepkinin bir “hoax” olduğu ve düzenlemeye gerek bulunmadığı yönündeki görüşlerini destekledi.
Sean O’Kane, Anthropic, OpenAI ve bir ölçüde Elon Musk’ın yavaşlama fikrine destek vermesini önceki değerlendirmelerine göre önemli bir değişim olarak nitelendirdi. Ancak Amodei’nin blog yazısında ortaya koyduğu planın, risklerin nedenleri ve “yavaşlama”nın pratikte ne anlama geleceği konusunda yeterli ayrıntı içermediğini savundu. Anthony Ha da sektörde plan etrafında hızla oluşan uzlaşmanın cesaret verici olmakla birlikte, bunun gerçek ve büyük çaplı bir yavaşlama adımı olup olmadığı konusunda kuşku yarattığını söyledi.
Kirsten Korosec, söz konusu yaklaşımın özellikle frontier AI laboratuvarlarını ilgilendirdiğini belirterek ana önerileri şöyle sıraladı:
- Bağımsız üçüncü taraf değerlendiricilerin Anthropic ve OpenAI gibi şirketlerde çalışarak yapay zekâ güvenliği uygulamalarını ve olaylarını izlemesi.
- Demokratik ülkelerdeki büyük yapay zekâ şirketlerinin güvenlik standartları ve sınırlar üzerinde koordinasyon kurması.
- Uluslararası düzeyde koordinasyon sağlanması.
Korosec, bu önerilerin genel çerçevesinin bilindiğini ancak ayrıntıların belirsiz kaldığını ve uzlaşmanın bir kartelin başlangıcına dönüşebileceği ihtimalinin de bulunduğunu söyledi. Ayrıca Nvidia CEO’su Jensen Huang’ın bu yaklaşıma sert biçimde karşı çıktığını belirtti.
O’Kane’e göre Huang, sektör ile Trump yönetimi arasında önemli bir aracı konumunda ve yapay zekâ şirketlerinin ilerlemesini destekleyen bir tutum sergiliyor. Korosec ise Huang’ın, Nvidia’nın yapay zekânın sınırlanmadan ilerlemesinden büyük ölçüde yararlanması nedeniyle bu tutumunun çıkarlarıyla bağlantılı olduğunu savundu. Ha da Trump ile Huang’ın çıkarlarının örtüştüğünü ve önerilerin güvenlik önlemleri içerse de yapay zekânın bugünkünden daha yavaş ilerlemesini açıkça zorunlu kılmadığını ifade etti.
Podcast’te, mevcut düzenlemelerin ve serbest piyasanın güvenlik için yeterli olup olmadığı da ele alındı. O’Kane, federal hükümetin düzenlemeleri uygulamaya istekli görünmediğini, tüketici tercihinin bu pazarı yeterince yönlendirmediğini söyledi. Şirketlerin kurumsal müşterilere daha fazla hizmet sattığını ve yatırım sermayesiyle desteklendiğini belirterek, ciddi bir sorun yaşanması halinde müşterilerin kolayca OpenAI’nin Codex’inden Anthropic’in Claude Code’una geçmesinin beklenemeyeceğini savundu.
Neden önemli
Tartışmanın önemi, yapay zekâ güvenliğinin yalnızca şirketlerin gönüllü kararlarına mı, yoksa bağımsız denetim ve ülkeler arası ortak standartlara mı dayanacağı sorusunu öne çıkarmasında yatıyor. Önerilen çerçeve özellikle sınır yapay zekâsı geliştiren laboratuvarları ilgilendirirken, bu şirketlerin aynı kurallar üzerinde uzlaşması güvenlik açısından işbirliği sağlayabileceği gibi rekabeti sınırlayan bir yapıya da dönüşebilir. Nvidia’nın yaklaşımı ise tartışmayı teknik güvenlik sınırlarının ötesine taşıyor; şirketlerin ve kamu yönetiminin yapay zekânın hızına ilişkin çıkarlarının birbirinden ne kadar ayrıştığı belirsiz kalıyor. Bu nedenle açıkta kalan temel mesele, bağımsız değerlendirmenin nasıl işleyeceği, hangi risklerin hangi eşiklerle karşılanacağı ve mevcut düzenlemelerin şirketleri uygulamada bağlayıp bağlamayacağıdır.