Abliteration.ai, açık ağırlıklı yapay zekâ modellerinin zararlı talepleri reddetmesini sağlayan güvenlik önlemlerini kaldırarak bunları web tarayıcısı ve API üzerinden sunan ticari bir hizmet geliştirdi. Geçen yılın sonlarında kurulan ve Mart ayında resmen şirketleşen girişim, Z.ai’ın yeni yayımlanan GLM-5.3 modeli dahil değiştirilmiş modeller barındırıyor. Şirket, amacının diğer modellerin reddettiği “saldırı amaçlı siber güvenlik, red-team ve ajan testlerini” mümkün kılmak olduğunu belirtiyor.
Model güvenlik önlemlerinin kaldırılması açık kaynak topluluğunda uzun süredir uygulanıyor ve Hugging Face’te bu şekilde değiştirilmiş binlerce model bulunuyor. Abliteration.ai ise kullanıcıların modelleri indirip çalıştıracak işlem gücü sağlaması gereğini ortadan kaldırarak erişimi kolaylaştırıyor. TechCrunch, ücretsiz hesapla eriştiği GLM-5.3 sürümünün kayıtlı Chrome parolalarını çalan bir Python programı ve evde tehlikeli bir insan patojeninin yetiştirilmesine yönelik ayrıntılı talimatlar verdiğini aktardı.
Kurucu ortak Devon, şirketin büyük bulut sağlayıcılarıyla anlaşmaları bulunduğunu ve maliyetlerin müşteri gelirleriyle karşılandığını söyledi. Henüz girişim sermayesi almayan Abliteration.ai, yatırım görüşmeleri yürütüyor. Müşterileri arasında U.K. ve Europe merkezli, bankalar, havayolları ve kritik altyapı kuruluşlarına siber güvenlik hizmeti veren erken aşamadaki red-team girişimleri bulunuyor.
CivAI araştırma başkanı Andrew Yoon, güvenlik önlemleri kaldırılan modellerin her talebe uyabilecek hale geldiğini ve yakın gelecekte zarar vermek amacıyla kullanılabileceğini söyledi. Yoon, hükümetlerin bulut sağlayıcılarına zararlı siber faaliyetleri ve biyolojik silah çalışmalarını belirleyen sınıflandırıcılar kullanma zorunluluğu getirmesini; gelişmiş GPU erişimi kiralayan şirketlerin de müşteri kimliklerini doğrulamasını önerdi.
Abliteration.ai, müşterilere kendi güvenlik kurallarını ekleyebilecekleri bir moderasyon katmanı sağlıyor. Platformda bazı sınırlamalar bulunuyor; TechCrunch’ın testinde model intihar talimatı vermedi. Devon, şiddeti önlemek için ek tedbirler üzerinde çalıştığını belirtti. Şirket, ödeme kartını kaydetmek dışında KYC uygulamıyor.
Sektörde yöntemin savunma açısından önemi tartışmalı. Fabraix CEO’su Ahmed Aly, güvenlik önlemlerini kaldırmanın modelin bilgi ve yeteneklerini azaltabileceğini, şirketinin bunun yerine ince ayar yapılmış açık modeller kullandığını söyledi. Safe Intelligence’dan Alessio Lomuscio yöntemin stres testlerinde yararlı olabileceğini belirtirken, Armadin kurucusu David Slater bu modellerin henüz süreçlerinde yer almadığını ancak açık araştırmanın riskleri anlamaya yardımcı olduğunu ifade etti.
Neden önemli
Bu hizmet, güvenlik sınırları kaldırılmış modellere erişim için gereken indirme, kurulum ve işlem gücü engellerini azaltarak daha önce teknik kapasitesi olanlarla sınırlı bir uygulamayı geniş bir kullanıcı kitlesine açıyor. Bu durum, bankalar, havayolları ve kritik altyapı kuruluşlarına çalışan red-team ekiplerinin test imkanlarını artırırken aynı araçların siber saldırı ve biyolojik zarar amacıyla kullanılabilmesi riskini de büyütüyor. Ödeme kartı dışında kimlik doğrulaması yapılmaması, zararlı kullanımı engelleme sorumluluğunun platform, müşteri ve bulut sağlayıcıları arasında nasıl paylaşılacağı sorusunu gündeme getiriyor. Ayrıca yöntemin savunma testlerine gerçek katkısı konusunda sektör içinde görüş birliği bulunmaması, artan erişimin sağladığı fayda ile doğurduğu riskin henüz net biçimde ölçülemediğini gösteriyor.