Le informazioni condivise dai dipendenti con gli strumenti di intelligenza artificiale, i dati a cui accedono questi sistemi e l’affidabilità dei contenuti generati stanno creando nuovi problemi di sicurezza nei settori finanziario, sanitario, pubblico e della difesa. Polygraf AI, fondata negli Stati Uniti nel 2021 dall’imprenditore di origini azere Yagub Rahimov, sviluppa un livello di sicurezza tra le organizzazioni e gli strumenti di intelligenza artificiale. Il prodotto AI Behavioral Control Plane mira a individuare i dati sensibili, applicare le regole di sicurezza, rilevare la condivisione di informazioni riservate, le frodi basate sull’intelligenza artificiale e i contenuti generati. I modelli linguistici di piccole dimensioni dell’azienda possono funzionare in centri dati privati o su sistemi isolati da Internet. La tecnologia Content Source Detection si concentra sulla distinzione tra documenti prodotti da esseri umani, generati dall’intelligenza artificiale o modificati successivamente; il suo brevetto è stato approvato nell’aprile 2026 dall’Ufficio brevetti e marchi degli Stati Uniti. Invece di sviluppare modelli, l’azienda è passata dal rilevamento dei contenuti inaffidabili alla sicurezza dell’intelligenza artificiale, alla privacy dei dati e alla verifica dei contenuti.
Perché è importante
Questo approccio risponde alla necessità, nelle organizzazioni che utilizzano dati sensibili, di applicare le regole di sicurezza su un livello centralizzato invece di controllare separatamente gli strumenti di intelligenza artificiale utilizzati dai dipendenti. La possibilità di utilizzare le soluzioni nei centri dati privati e in ambienti isolati da Internet riguarda direttamente le organizzazioni finanziarie, sanitarie, pubbliche e della difesa, dove il trasferimento dei dati verso sistemi esterni è limitato. Il passaggio dell’azienda dallo sviluppo di modelli alla sicurezza, alla privacy e alla verifica dei contenuti dimostra che l’intelligenza artificiale viene considerata non solo in relazione alla sua capacità produttiva, ma anche ai rischi organizzativi e all’origine dei risultati. Tuttavia, poiché il testo non fornisce dati sull’accuratezza del rilevamento, sui tassi di risultati errati o sulle prestazioni nelle applicazioni delle organizzazioni, l’efficacia della tecnologia nelle reali condizioni d’uso resta una questione aperta.