Yapay zekânın insanlık için varoluşsal tehdit oluşturup oluşturmadığı tartışması, Anthropic’te çalışan araştırmacı Jacob Coxon’ın şirketten ayrıldığını açıklamasıyla yeniden gündeme geldi. Coxon, önde gelen yapay zekâ şirketlerinin “hayatlarımızla kumar oynadığını” savundu. Anthropic’in alignment lideri ise bu paylaşımı destekleyerek şirket içinde yapay zekânın tüm insanları öldürebileceğine gerçekten inandıklarını ve kendisine göre bunun önümüzdeki 10 yıl içinde gerçekleşme ihtimalinin “>10%” olduğunu yazdı.
TechCrunch’ın Equity podcast’inde Anthony Ha, Kirsten Korosec ve Sean O’Kane bu açıklamaları değerlendirdi. Ha, söz konusu oranın herhangi bir hesaplamaya dayanmadığını ve teknoloji sektöründe temelsiz yüzdelerin sıkça kullanıldığını söyledi. Ancak Coxon’ın endişeleri nedeniyle kariyerini riske atarak işinden ayrılmasını, sözleriyle eylemlerini örtüştürmesi bakımından diğer açıklamalardan farklı buldu.
Korosec, şirketlerin yapay zekâ sistemlerinin kontrol dışına çıktığını veya insanlık için tehlike oluşturduğunu anlatmasının, modellerinin ne kadar gelişmiş olduğunu göstermenin dolaylı bir yolu olup olmadığını sorguladı. Ha, bu açıklamaların yalnızca bilinçli bir pazarlama hamlesi olmadığını, birçok araştırmacı ve yöneticinin gerçek kaygılar taşıdığını belirtti. Bununla birlikte, “dünyanın en tehlikeli yazılımını geliştirdik” mesajının şirketlerin ticari çıkarlarıyla da örtüşebileceğini ifade etti.
O’Kane ise OpenAI’ın dahili yapay zekâ ajanlarının web üzerindeki wikilere erişmesi ve birbirlerine mesaj bırakması gibi gelişmelerin, şirketlerin sistemleri tam olarak kontrol edemediği izlenimini verdiğini söyledi. Anthropic’in olası halka arzı öncesinde hazırlanacak S-1 başvurusunda, yapay zekânın insanlığı yok etme ihtimaline ilişkin ifadelerin ve risk faktörlerinin nasıl yer alacağı da tartışıldı. Konuşmacılar, bu tür açıklamaların şirket değerlemesini düşürmek yerine, modellerin kapasitesine dair bir “gösteri” olarak değerlemeyi artırabileceğini belirtti.
Ha, varoluşsal tehdit söylemlerine kuşkuyla yaklaşırken yapay zekânın emek, çevre ve iklim üzerindeki daha yakın vadeli zararlarının da tartışılması gerektiğini söyledi. KontrolAI’ın ABD’deki icra direktörü Connor Leahy’nin de programda yapay zekânın tehlikeli yönlerinin nasıl denetlenebileceği ele alındı.
Neden önemli
Tartışmanın önemi, yapay zekâ güvenliği konusunda şirket içindeki kaygıların kamuya açık açıklamalarla sınırlı kalmayıp çalışanların kararlarını ve şirketlerin kurumsal iletişimini etkilemesi. Temelsiz bir olasılık oranının, böylesine ağır bir iddiayı desteklemek için kullanılması, felaket senaryolarının nasıl ölçüleceği ve kamuoyuna nasıl aktarılacağı sorusunu açık bırakıyor. Aynı uyarıların modellerin kapasitesini sergileyen bir pazarlama aracına dönüşebilmesi, güvenlik söylemiyle ticari çıkarlar arasındaki sınırı belirsizleştiriyor. Anthropic’in olası halka arzında risklerin nasıl ifade edileceği, bu gerilimin yatırımcılar ve kamuoyu açısından somut bir sınava dönüşebileceğini gösteriyor. Ayrıca tartışma, varoluşsal risklerin yanında emek, çevre, iklim ve denetim sorunlarının da geri plana itilmemesi gerektiğini hatırlatıyor.