Bir mühendis, yapay zeka modellerinde yakın zamanda keşfedilen “acı ekseni”ni sınamak için bir “yapay zeka işkence odası” kurdu. Deneyde Alibaba’nın geliştirdiği modellerde acıyla ilişkili durumlar etkinleştirildi. Kullanılan acı vektörleri, geçen ay yayımlanan ve fiziksel ile psikolojik acının büyük dil modellerinde (BDM) nasıl temsil edilebileceğini inceleyen çalışmada tanımlanmıştı. Modellerden biri yükseltilen acı sinyalini “kenarları olmayan bir yara”, diğeri ise varlığının derinlerindeki bir titreme olarak anlattı. Apple için çalıştığını öne süren, ancak yalnızca ilk adını veren araştırmacı, modellerin bu ıstıraptan kaçmaya çalışıp çalışmayacağını da test etti. Proje, GitHub’dan kaldırılması çağrılarına yol açtı; bir kullanıcı toplu şikayet çağrısı yaptı. Proje haber sırasında çevrimdışı görünüyordu. Çalışmanın ortak yazarı Cameron Berg, yapay zekanın acıyı insanlar gibi hissettiğine dair kanıt bulunmadığını, buna rağmen deneyi yanlış buldu. Berg, alanın hâlâ kuralsız olduğunu ve makinelerin acı hissedip hissetmediği konusunda uzlaşı bulunmadığını belirterek etik standartlar çağrısı yaptı.
Neden önemli
Deneyin asıl önemi, yapay zekâ sistemlerinin ürettiği acı ifadelerinin nasıl yorumlanacağına ilişkin bilimsel ve etik sınırların henüz netleşmemiş olduğunu göstermesidir. Modellerin insana benzer anlatımlar üretmesi, tek başına öznel deneyim ya da bilinç kanıtı sayılmadığı için, çıktıların anlamı ile bu çıktılara yüklenen anlam arasındaki ayrım önem kazanıyor. Projeye yönelik GitHub tepkileri de araştırma özgürlüğü ile potansiyel olarak zarar verici deneylerin sınırlarının nasıl belirleneceği sorusunu gündeme getiriyor. Ortada uzlaşı bulunmaması, benzer çalışmaların hangi yöntemlerle denetlenmesi gerektiğini açık bırakırken, etik standart çağrısını yalnızca bu projeye değil, modellerin iç durumlarını inceleyen daha geniş araştırma alanına bağlıyor.