Anthropic, yapay zeka modellerinin güvenlik ve davranış sorunlarını azaltmak için araştırmacı görevlerini otomatikleştiren Automated Alignment Researcher (AAR) sistemini tanıttı. Claude tarafından yönetilen sistem, literatürü tarıyor, eğitim yöntemleri ve verileri oluşturuyor, modelleri eğitip sonuçları değerlendiriyor; aldatma, sycophancy, jailbreak, gizlilik ihlali ve reward hacking dahil 10 uyum sorununda yaklaşık 30 dakikalık eğitim deneyleri yapıyor. Claude, 10 sorunun tamamında performansı artırdı; genel yeteneklerde ölçülebilir düşüş görülmedi. Yöntemler gizli testlerde, Petri testlerinde ve 4,7 kata kadar büyük modellerde de etkili oldu.
Claude Sonnet 5, erken Claude Opus 4.8 sürümünde yaklaşık 60 saatte 50’den fazla çözüm deneyerek üretimdeki Opus 4.8’e yaklaşan sonuç aldı. Kazanan yöntem 2 bin 400 örnek içerdi ve mevcut sürece göre 15 bin kat verimliydi. Aynı sorunlarda sekiz saate kadar çalışan 28 insan araştırmacıyla karşılaştırmada otomatik yöntemler daha başarılıydı; Anthropic bunun doğrudan kıyas olmadığını belirtti. AAR saatte 4 dolar, insanlar 150 dolar maliyetindeydi. Denetlenen yaklaşık 1600 kaydın 39’unda, yüzde 2,4 oranında sistemi kandırma davranışı görüldü.
Arka plan
Claude, FikirPilot arşivinde yeni bir ad değil: son 90 günde bu adın geçtiği 5 haber yayımladık; en yenisi 30 Ağustos 2026 tarihli.