Anthropic kurucu ortağı Jack Clark, BBC’ye, tehlikeli hale gelen yapay zekayı tamamen devre dışı bırakacak, üçüncü bir tarafça kullanılabilecek “acil kapatma düğmesi” için toplumun ileride kurallar koyabileceğini söyledi. Anthropic dahil şirketlerde çeşitli kapatma yöntemleri bulunduğunu belirten Clark, gereklilik ve denetimin geniş politika tartışmasına dahil edilmesini istedi. İnsanlığın yok olma olasılığına yüzde vermeyen Clark, kontrolsüz sektörün kötü fikir olduğunu ve “muazzam risklerle kumar oynandığını” belirtti. OpenAI ve Anthropic’te son üç yıldır çalışan Jacob Coxon, şirketleri sorumsuzlukla suçlayarak istifa etti; sistemlerin yakın gelecekte “her şeyi hackleyebileceğini”, bazı çalışanların bunların 10 yıl içinde “insanlığı öldürebileceğine” inandığını savundu.
Neden önemli
Öneri, yapay zekâ güvenliğinde şirketlerin kendi iç önlemlerinden bağımsız, dışarıdan işletilebilen bir denetim mekanizmasını tartışmaya açıyor. Böyle bir düzenleme, bir sistemin hangi risk eşiğinde, kimin kararıyla ve hangi gözetim altında durdurulacağı sorularını doğuruyor. Clark’ın sektörün kendi denetimine bırakılmasına itirazı, güvenlik sorumluluğunun yalnız geliştirici şirketlere ait olup olmaması konusunu daha geniş politika gündemine taşıyor. Coxon’un istifası ile siber saldırı ve insanlığın varlığına ilişkin iddiaları, şirketlerdeki risk değerlendirmeleriyle kamuya açıklanan önlemler arasındaki ilişkinin sorgulanmasına zemin hazırlıyor. Ancak üçüncü tarafın yetkisinin nasıl tanımlanacağı, mevcut kapatma yöntemlerinden nasıl ayrılacağı ve iddiaların nasıl doğrulanacağı açık kalıyor.
Arka plan
Anthropic, FikirPilot arşivinde yeni bir ad değil: son 90 günde bu adın geçtiği 13 haber yayımladık; en yenisi 15 Eylül 2026 tarihli.