Son haftalarda bazı büyük yapay zekâ şirketlerinin yöneticileri, geliştirdikleri teknolojinin tehlikeli olduğu uyarısında bulundu. Anthropic CEO’su Dario Amodei, ilerlemenin yavaşlatılması gerektiğini söylerken OpenAI CEO’su Sam Altman, “frontier” çalışmalarının hızının ayarlanması gerektiği konusunda ona katıldığını belirtti.
Anthropic’ten ayrılan araştırmacı Jacob Coxon, Anthropic ve daha önce çalıştığı OpenAI’yi sorumlu davranmamakla suçladı. Coxon, yapay zekâ geliştirenlerin bunun on yılın sonuna kadar insanlığın tamamını öldürebileceğine inandığını yazdı. Anthropic çalışanı Evan Hubinger da bu görüşe katılarak, kendisinin olasılığı gelecek on yıl için “>%10” gördüğünü söyledi.
Endişelerden biri, yapay zekânın insan genlerini hedefleyen ölümcül virüsler, tarımı yok edecek mantarlar veya suya fark edilmeden katılabilecek toksinler gibi biyolojik silahların tasarlanmasına yardım etmesi. Collaborations Pharmaceuticals araştırmacıları 2022’de geliştirdikleri bir molekül üreticisiyle, altı saatten kısa sürede kimyasal savaş ajanı olabilecek 40.000 molekül üretildiğini; bazılarının bilinen sinir ajanlarından daha zehirli tasarlandığını gösterdi.
Stanford’dan David Magnus bunu çok korkutucu buldu. Hamburg Üniversitesi’nden biosecurity araştırmacısı Dunja Sabra’ya göre yapay zekâ botları bilimsel bilgi, deney talimatları ve video eğitimleri sunabiliyor. Gen düzenleme ile sentetik biyolojinin ve ev laboratuvarlarının yaygınlaşması riski artırıyor.
DNA taramaları, “red-teaming”, “blue-teaming” ve yapay zekâ güvenlik önlemleri mevcut; ancak Sabra, kararlı bir kişinin sonunda başarılı olabileceğini belirtiyor.
Neden önemli
Bu tartışma, yapay zekâ güvenliğinin yalnızca sistemlerin nasıl davrandığıyla sınırlı olmadığını, biyolojik ve kimyasal tehditlerin tasarım aşamasında kötüye kullanım ihtimalini de kapsadığını gösteriyor. Mevcut DNA taramaları, ekipler arası denetim yöntemleri ve diğer güvenlik önlemleri riski azaltmayı amaçlasa da, bunların kararlı bir kişinin girişimini engellemeye yetip yetmediği açık kalıyor. Bu nedenle asıl soru, geliştirme hızının nasıl ayarlanacağı kadar, güvenlik kontrollerinin hangi aşamada uygulanacağı ve ne ölçüde yeterli sayılacağı. Konu, yapay zekâ şirketlerinin yöneticileri ve çalışanlarının yanı sıra gen düzenleme, sentetik biyoloji ve ev laboratuvarlarıyla ilgilenen araştırmacıları da doğrudan ilgilendiriyor.
Terim: ajan
Yapay zekâ ajanı, tek bir yanıt üretmek yerine hedefe ulaşmak için araç çağırıp çok adımlı iş yürüten yazılımdır.