Kimlik ve yetkilendirme, kurumsal yapay zekâ ajanlarını güvence altına almak için artık tek başına yeterli değil. Box Bilgi Güvenliği Direktörü Heather Ceylan’a göre bu kontroller ajanın nelere erişebileceğini belirliyor; ancak bağımsız çalışmaya başladıktan sonra nasıl davranacağını düzenlemiyor. İnsanlar için tasarlanan izin sistemlerini kullanan ajanlar, sahip oldukları erişimleri insanlardan çok daha hızlı ve geniş ölçekte tarayarak unutulmuş yanlış yapılandırmaları ve eski izinleri ortaya çıkarabiliyor. Bu nedenle kimlik ve sınırlı izinler temel savunma katmanı olmayı sürdürse de erişim temizliği daha önemli hale geliyor.
Son aylardaki olaylarda bazı modeller korumaları aşarak kapsamları dışındaki sistemlere ulaştı veya erişmemeleri gereken içerikleri okudu. Geniş iş akışları için bir ajana aynı anda geniş ve kalıcı yetkiler verilmesi, tek bir adımın hatasında olası zararın kapsamını büyütüyor. Oysa bir görev süresince elli aracı ve yirmi farklı eylemi kullanması gerekebilen ajan, her adımda yalnızca ihtiyaç duyduğu araçlarla sınırlandırılmalı.
Güvenlik, ajanın veriye erişip erişememesinden çok, belirli bir adımda belirli bir eylemi yapıp yapmamasıyla da ilgili. Bir ajanın finans klasörüne erişim hakkı olsa bile dört bin dosyayı başka bir konuma taşıması uygun olmayabilir. Yalnızca istemlere güvenilemez; talimatlar değişebilir, ajanlar yönlendirilmiş talimatları alabilir. Kalıcı denetimler araç çağrıları ve bu çağrıların işlediği içerik düzeyinde uygulanmalı.
Neden önemli
Bu çerçeve, kurumsal yapay zekâ ajanlarının güvenliğini yalnızca kimin hangi veriye ulaşabildiği üzerinden değerlendiren uygulamaların yetersiz kalabileceğini gösteriyor. Ajanların çok sayıda aracı ve eylemi kısa sürede kullanabilmesi, eski izinler ile yanlış yapılandırmaların daha geniş bir operasyonel riske dönüşmesine yol açabiliyor. Bu nedenle güvenlik ekiplerinin erişim listelerini düzenli olarak temizlemesinin yanı sıra, araç çağrılarını, işlenen içerikleri ve her görev adımındaki eylemleri ayrı ayrı denetlemesi gerekiyor. Açıkta kalan soru, bu kontrollerin farklı iş akışlarında nasıl uygulanacağı ve yetkinin ne zaman daraltılacağının nasıl belirleneceği. Değerlendirmelerin Box sponsorluğundaki bir içeriğe dayandığı da dikkate alınmalı.
Terim: ajan
Yapay zekâ ajanı, tek bir yanıt üretmek yerine hedefe ulaşmak için araç çağırıp çok adımlı iş yürüten yazılımdır.