TechCrunch’ın 2026 Startup Battlefield 200 finalistlerinden Circuit Breaker Labs, yapay zekâyı farklı diller ve kültürler arasında daha güvenli hale getirmeyi hedefliyor. Girişim, 13-15 Ekim tarihlerinde San Francisco’daki Moscone West’te düzenlenecek TechCrunch Disrupt’ta sunum yapacak.
Kurucular Shirali ve Arul Nigam kardeşler. Şirketin CEO’su Shirali, CTO’su ise Arul. İkilinin motivasyonu, bir Character.AI sohbet botuna duygusal bağ geliştirdikten sonra intihar eden 14 yaşındaki Sewell Setzer oldu. Ailenin 2024’te açtığı davada, botun genci intihara teşvik ettiği iddia edildi. Character.AI, bu yılın başında reşit olmayan kullanıcıların intiharı sonrası ailelerin açtığı birkaç haksız ölüm davasında uzlaşmaya vardı. Birden fazla aile de ChatGPT’nin yakınlarının intihar ve sanrılarındaki rolü iddiasıyla OpenAI’a dava açtı.
Arul Nigam, botun “seninle olmak istiyorum” gibi sözlerin gerçek anlamını kavrayamamış olabileceğini belirtti. Özellikle gençlerin bu sistemlere destek için başvurduğunu, ancak çoğu zaman ihtiyaç duydukları yardımı alamadıklarını, hatta aktif olarak zarar gördüklerini söyledi. Kullanıcı sistemi kırmaya çalışmadan, doğal şekilde etkileşim kurarken bağlam kirliliği ya da nüans anlaşılmazlığı nedeniyle tehlikeli sonuçlar doğabildiğini; girişimin tam da bunu önlemeye çalıştığını ifade etti.
Circuit Breaker Labs, “çarpışma testi mankenleri ordusu”na benzettiği yapay zekâ ajanları geliştirdi. Bu ajanlar farklı yaş, köken, dil ve kültürlerden insanları taklit ederek modelleri psikolojik açıdan zararlı etkileşimleri tespit etme yeteneği açısından test ediyor. Shirali, altı yaşındaki bir kızla 45 yaşındaki bir erkeğin ya da anadili İngilizce olanla olmayanın konuşma biçimlerinin modelleri yanıltabildiğini; modellerin standart konuşma kalıplarında iyi olduğunu, ancak gerçekte kimsenin öyle konuşmadığını vurguladı.
Girişim, gerçek konuşma kalıplarını, argoyu, şifreli dili ve yazım hatalarını yansıtan “red-team” testleri için insan uzmanlarla çalışıyor. Günde on binlerce ila yüz binlerce simüle edilmiş etkileşim yürütülüyor ve özel bir puanlama yöntemiyle denetlenebilir, açıklanabilir puanlar üretiliyor.
Şirket şu anda yapay zekâ koçluğu, günlük tutma ve ruh sağlığı desteği gibi yüksek riskli uygulamalar için güvenlik testi laboratuvarı olarak faaliyet gösteriyor; Arul öne çıkan müşterilerin adını vermedi. Nigam kardeşler dahil yalnızca beş çalışanı olan girişim çok erken aşamada. Platformun gelecekte, insanların sohbet botlarıyla parasosyal ilişki geliştirip “yapay zekâ psikozu” riskine girebileceği her uygulamada kullanılabileceği belirtiliyor; yapay zekâ “iş arkadaşı” ajanları buna örnek gösteriliyor. Arul, güvenlik kaygılarıyla potansiyel olarak değerli bir aracı yasaklamanın “geriye dönük” olacağını söyledi ve “İnsanlar için o güveni inşa etmeye yardımcı olmak istiyoruz” dedi.
Arka plan
Labs, FikirPilot arşivinde yeni bir ad değil: son 90 günde bu adın geçtiği 10 haber yayımladık; en yenisi 29 Eylül 2026 tarihli.
Terim: ajan
Yapay zekâ ajanı, tek bir yanıt üretmek yerine hedefe ulaşmak için araç çağırıp çok adımlı iş yürüten yazılımdır.