La startup di sicurezza dell’intelligenza artificiale HiddenLayer ha raccolto 100 milioni di dollari in un round di finanziamento Series B, mentre accelerano gli sforzi delle aziende per mettere in sicurezza i sistemi AI. Al round, guidato da Delta-v Capital, hanno partecipato Ten Eleven Ventures, Morgan Stanley, il fondo M12 di Microsoft e Booz Allen Hamilton.
Chris Sestito, cofondatore e CEO di HiddenLayer, ha dichiarato che i ricavi ricorrenti annuali dell’azienda sono aumentati di oltre 10 volte nell’ultimo anno. Sestito, senza fornire una cifra precisa, ha affermato che i ricavi si attestano ormai nell’ordine delle “decine di milioni” di dollari e che oltre il 90% della crescita proviene da nuovi clienti acquisiti nell’ultimo anno. Tra i principali clienti dell’azienda figurano istituti finanziari e grandi aziende tecnologiche che sviluppano prodotti AI. HiddenLayer ha inoltre contratti con il Dipartimento della Difesa e con la comunità dell’intelligence; uno dei suoi clienti è un “fornitore leader di modelli frontier” con oltre 700 milioni di utenti settimanali.
Gartner stima che quest’anno le aziende spenderanno 2.83 miliardi di dollari per prodotti che mettono in sicurezza gli strumenti AI, con un aumento dell’83% rispetto al 2025. Si prevede che la spesa raggiungerà circa 4.78 miliardi di dollari l’anno prossimo.
HiddenLayer, con sede ad Austin, sviluppa prodotti che proteggono modelli, agenti e flussi di lavoro AI da attacchi, vulnerabilità e iniezioni di codice dannoso. Pur continuando a proteggere i prodotti del 2023, l’azienda ha ampliato il proprio raggio d’azione includendo anche la prompt injection, la manipolazione degli agenti e l’uso dannoso degli strumenti. I suoi prodotti si concentrano su rilevamento, protezione in fase di esecuzione, simulazione degli attacchi e sicurezza della catena di approvvigionamento. Sestito ha affermato che, con la diffusione delle implementazioni AI, la sicurezza in fase di esecuzione è diventata una priorità e che questa è simile alle soluzioni di rilevamento e risposta degli endpoint specifiche per l’AI, ovvero EDR.
HiddenLayer analizza inoltre circa 50 diversi framework di file AI per esaminare i rischi nei modelli open source e a pesi aperti. L’azienda mira a rilevare minacce quali un modello che si presenta come qualcosa di diverso da ciò che è o che nasconde altri modelli.
Il nuovo investimento sarà utilizzato per potenziare le attività di vendita e distribuzione, oltre all’ingegneria e alla ricerca, nonché per espandersi in Europa e nell’area EMEA. HiddenLayer riconosce che aziende come Microsoft, OpenAI e AWS potrebbero integrare nelle proprie piattaforme alcune funzionalità di sicurezza AI; ritiene tuttavia che l’infrastruttura AI si concentrerà maggiormente su funzionalità di governance quali rilevamento, identità e controlli delle policy.
Perché è importante
L’investimento dimostra che l’adozione dell’AI sta facendo crescere non solo lo sviluppo dei modelli, ma anche la necessità di monitorarli e proteggerli durante il loro funzionamento. Il fatto che gruppi di clienti diversi, come istituzioni finanziarie, grandi aziende tecnologiche ed enti pubblici, affrontino gli stessi problemi di sicurezza spiega perché i prodotti si stiano orientando verso un ambito più ampio, che si estende dal modello all’agente e al flusso di lavoro. Le scansioni condotte sui modelli open source e a pesi aperti indicano inoltre che i rischi possono derivare non soltanto da attacchi esterni, ma anche dall’affidabilità dei file dei modelli e della catena di fornitura. Tuttavia, l’integrazione di funzionalità di sicurezza nelle piattaforme delle grandi aziende tecnologiche lascia aperta la questione di come HiddenLayer riuscirà a differenziarsi negli ambiti della governance e della protezione durante il funzionamento.
Termine: agente
Un agente di AI è un software che, anziché produrre un’unica risposta, utilizza strumenti ed esegue attività in più fasi per raggiungere un obiettivo.