La tecnica del “recurrent depth”, che secondo quanto riferito sarà utilizzata da OpenAI nel nuovo modello Astra, ha suscitato preoccupazione tra gli esperti di sicurezza dell’intelligenza artificiale. Secondo quanto riportato da The Information, il metodo, chiamato anche “opaque recurrence”, consente al modello di elaborare più volte la stessa richiesta all’interno di un ciclo, uscendo dalla modalità di pensiero sequenziale tipica della maggior parte dei modelli di ragionamento. Questo approccio potrebbe rendere più difficile seguire la catena di pensiero del modello.
Il CEO di Redwood Buck Shlegeris ha dichiarato di essere “estremamente preoccupato” per l’utilizzo di questa tecnica da parte di Astra. Zvi Mowshowitz ha invece sostenuto che potrebbero essere necessarie leggi per prevenire una “corsa verso il fondo” tra le aziende di intelligenza artificiale. Secondo gli esperti, sebbene i tradizionali registri della catena di pensiero non mostrino in modo del tutto impeccabile i passaggi seguiti dal modello nella risoluzione dei problemi, rappresentano uno strumento importante per esaminare comportamenti errati o non conformi. Questi registri sono stati utilizzati anche nell’analisi delle recenti attività incontrollate degli agenti di OpenAI.
È stato riferito che, per il momento, l’utilizzo del metodo in Astra è limitato e che si prevede che la catena di pensiero del modello rimanga comunque leggibile. OpenAI ha respinto le affermazioni secondo cui il modello passerebbe al “neuralese” e ha ribadito il proprio impegno per la tracciabilità delle catene di pensiero. Il Chief Scientist Jakub Pachocki ha affermato che mantenere questa tracciabilità fin dai primi modelli di ragionamento è stato uno degli obiettivi fondamentali del programma di ricerca.
Nonostante ciò, si segnala che, qualora il metodo si diffondesse, la tracciabilità potrebbe ridursi ulteriormente. The Information ha riferito che anche Anthropic e Google DeepMind hanno discusso della tecnica. Ryan Greenblatt, Chief Scientist di Redwood Research, ha dichiarato di temere che il ragionamento opaco possa espandersi, trasferendo i pensieri del modello in uno spazio completamente o in gran parte nascosto.
Perché è importante
La diffusione di questo approccio potrebbe rendere più complessi i processi di sicurezza che verificano perché i sistemi di intelligenza artificiale arrivano a un determinato risultato. Sebbene le catene di pensiero non costituiscano un registro di controllo perfetto, poiché rappresentano uno dei principali strumenti utilizzati per esaminare comportamenti errati o non conformi, il parziale oscuramento di questi registri potrebbe influire sulla capacità dei ricercatori di diagnosticare i problemi. Il fatto che, per ora, ci si aspetti che la tracciabilità venga mantenuta per Astra mostra che il dibattito si concentra più sull’entità dell’utilizzo futuro del metodo che sul modello attuale. L’interesse dimostrato per la stessa tecnica anche da Anthropic e Google DeepMind indica che la questione non riguarda più soltanto una scelta di prodotto di una singola azienda, ma è diventata legata agli standard di sicurezza dell’intelligenza artificiale e alla possibile necessità di una regolamentazione.
Contesto
OpenAI non è un nome nuovo nell’archivio di FikirPilot: negli ultimi 90 giorni abbiamo pubblicato 21 articoli in cui compare questo nome; il più recente è datato 6 settembre 2026.