Identità e autorizzazione non sono più sufficienti da sole per mettere in sicurezza gli agenti di intelligenza artificiale aziendali. Secondo Heather Ceylan, Chief Information Security Officer di Box, questi controlli stabiliscono a cosa può accedere l’agente, ma non regolano come si comporterà una volta iniziato a operare autonomamente. Gli agenti che utilizzano sistemi di autorizzazione progettati per gli esseri umani possono esaminare gli accessi di cui dispongono molto più rapidamente e su una scala molto più ampia rispetto alle persone, facendo emergere configurazioni errate dimenticate e autorizzazioni obsolete. Per questo motivo, sebbene l’identità e le autorizzazioni limitate continuino a costituire il livello fondamentale di difesa, la bonifica degli accessi sta diventando più importante.
Negli incidenti degli ultimi mesi, alcuni modelli hanno aggirato le protezioni raggiungendo sistemi al di fuori del loro ambito oppure leggendo contenuti a cui non avrebbero dovuto accedere. Concedere contemporaneamente a un agente autorizzazioni ampie e permanenti per flussi di lavoro estesi amplia la portata dei potenziali danni in caso di errore di un singolo passaggio. Un agente che, nel corso di un’attività, potrebbe aver bisogno di utilizzare cinquanta strumenti e venti azioni diverse dovrebbe invece essere limitato, a ogni passaggio, ai soli strumenti di cui ha bisogno.
La sicurezza non riguarda soltanto la possibilità per l’agente di accedere ai dati, ma anche il fatto che possa o meno compiere una determinata azione in un determinato passaggio. Anche se un agente ha il diritto di accedere alla cartella finanziaria, potrebbe non essere appropriato che sposti quattromila file in un’altra posizione. Non ci si può affidare esclusivamente ai prompt: le istruzioni possono cambiare e gli agenti possono ricevere istruzioni manipolate. I controlli permanenti devono essere applicati a livello delle chiamate agli strumenti e dei contenuti elaborati da tali chiamate.
Perché è importante
Questo quadro mostra che le pratiche che valutano la sicurezza degli agenti di intelligenza artificiale aziendali esclusivamente sulla base di chi può accedere a quali dati potrebbero rivelarsi insufficienti. La capacità degli agenti di utilizzare numerosi strumenti e compiere diverse azioni in breve tempo può far sì che autorizzazioni obsolete e configurazioni errate si trasformino in un rischio operativo più ampio. Per questo motivo, oltre a ripulire regolarmente gli elenchi degli accessi, i team di sicurezza devono verificare separatamente le chiamate agli strumenti, i contenuti elaborati e le azioni compiute in ogni fase dell’attività. La questione ancora aperta è come applicare questi controlli nei diversi flussi di lavoro e come stabilire quando restringere le autorizzazioni. Va inoltre tenuto presente che le valutazioni si basano su un contenuto sponsorizzato da Box.
Termine: agente
Un agente di intelligenza artificiale è un software che, invece di generare una singola risposta, richiama strumenti e svolge attività articolate in più fasi per raggiungere un obiettivo.