Yapay zekâ güvenliği girişimi HiddenLayer, şirketlerin AI sistemlerini güvence altına alma çabalarının hızlanmasıyla 100 milyon dolarlık Series B yatırım aldı. Delta-v Capital liderliğindeki tura Ten Eleven Ventures, Morgan Stanley, Microsoft’un M12 fonu ve Booz Allen Hamilton katıldı.
HiddenLayer’ın kurucu ortağı ve CEO’su Chris Sestito, şirketin yıllık yinelenen gelirinin son bir yılda 10 kattan fazla arttığını açıkladı. Kesin rakam vermeyen Sestito, gelirin artık “on milyonlarca” dolar seviyesinde olduğunu ve büyümenin %90’ından fazlasının son bir yılda kazanılan yeni müşterilerden geldiğini söyledi. Şirketin başlıca müşterileri arasında finans kuruluşları ve AI ürünleri geliştiren büyük teknoloji şirketleri bulunuyor. HiddenLayer ayrıca Savunma Bakanlığı ve istihbarat topluluğuyla sözleşmelere sahip; müşterilerinden biri haftalık 700 milyondan fazla kullanıcıya sahip “önde gelen bir frontier model sağlayıcısı”.
Gartner, şirketlerin AI araçlarını güvence altına alan ürünlere bu yıl 2.83 milyar dolar harcayacağını, bunun 2025’e göre %83 artış anlamına geldiğini tahmin ediyor. Harcamaların gelecek yıl yaklaşık 4.78 milyar dolara ulaşması bekleniyor.
Austin merkezli HiddenLayer; AI modellerini, ajanlarını ve iş akışlarını saldırılar, açıklar ve kötü amaçlı kod enjeksiyonlarına karşı koruyan ürünler geliştiriyor. Şirket, 2023’teki ürünlerini korurken kapsamını prompt injection, ajan manipülasyonu ve kötü amaçlı araç kullanımını da içerecek şekilde genişletti. Ürünleri keşif, çalışma zamanı koruması, saldırı simülasyonu ve tedarik zinciri güvenliğine odaklanıyor. Sestito, AI dağıtımlarının yaygınlaşmasıyla çalışma zamanı güvenliğinin öncelik haline geldiğini ve bunun AI’a özgü uç nokta tespiti ve müdahalesine, yani EDR çözümlerine benzediğini belirtti.
HiddenLayer ayrıca açık kaynak ve açık ağırlıklı modellerdeki riskleri incelemek için yaklaşık 50 farklı AI dosya çerçevesini tarıyor. Şirket, bir modelin kendisini olduğundan farklı göstermesi veya başka modelleri gizlemesi gibi tehditleri tespit etmeyi amaçlıyor.
Yeni yatırım mühendislik ve araştırmanın yanı sıra satış ve dağıtımı büyütmek, ayrıca Avrupa ve EMEA’ya açılmak için kullanılacak. HiddenLayer, Microsoft, OpenAI ve AWS gibi şirketlerin bazı AI güvenliği özelliklerini platformlarına dahil edebileceğini kabul ediyor; ancak AI altyapısının daha çok keşif, kimlik ve politika kontrolleri gibi yönetişim özelliklerine odaklanacağını düşünüyor.
Neden önemli
Yatırım, yapay zekâ kullanımının yalnızca model geliştirme değil, modellerin çalışma sırasında izlenmesi ve korunması ihtiyacını da büyüttüğünü gösteriyor. Finans kuruluşları, büyük teknoloji şirketleri ve kamu kurumları gibi farklı müşteri gruplarının aynı güvenlik sorunlarıyla karşılaşması, ürünlerin modelden ajana ve iş akışına uzanan daha geniş bir alana yönelmesini açıklıyor. Açık kaynak ve açık ağırlıklı modeller için yapılan taramalar ise risklerin yalnızca dış saldırılardan değil, model dosyalarının ve tedarik zincirinin güvenilirliğinden de kaynaklanabildiğine işaret ediyor. Bununla birlikte, büyük teknoloji şirketlerinin kendi platformlarına güvenlik özellikleri eklemesi, HiddenLayer’ın yönetişim ve çalışma zamanı koruması alanlarında nasıl ayrışacağı sorusunu açık bırakıyor.
Terim: ajan
Yapay zekâ ajanı, tek bir yanıt üretmek yerine hedefe ulaşmak için araç çağırıp çok adımlı iş yürüten yazılımdır.