Si sostiene che il modello Astra di OpenAI, non ancora reso disponibile, utilizzi, oltre a capacità avanzate di cybersicurezza, un metodo chiamato “recurrent depth” o “looped transformer”. Con questa tecnica, le informazioni possono essere fatte circolare più volte tra i livelli interni del modello, consentendo un numero maggiore di calcoli; tuttavia, una parte più ampia del ragionamento può rimanere al di fuori della catena di pensiero espressa in linguaggio naturale.
I ricercatori di sicurezza dell’intelligenza artificiale affermano che l’approccio, noto anche come “opaque recurrence”, potrebbe rendere più difficile supervisionare i modelli. Ryan Greenblatt ha dichiarato che le tracce di pensiero visibili potrebbero ridursi e che la competizione sulle prestazioni potrebbe spingere le aziende verso architetture meno osservabili. Anche Buck Shlegeris e Zvi Mowshowitz hanno espresso le loro preoccupazioni, mentre Mowshowitz ha ipotizzato che in futuro potrebbe essere necessaria una regolamentazione.
OpenAI mantiene limitato l’uso della tecnica in Astra; si afferma che una parte significativa della catena di pensiero rimarrà leggibile. Jakub Pachocki ha spiegato che il monitoraggio della chain-of-thought è mantenuto ed è l’obiettivo principale. Nonostante Pachocki abbia dichiarato che la profondità di calcolo di Astra si colloca in un intervallo pari a circa il doppio di quella di GPT-4, OpenAI non ha confermato né smentito l’uso del looped transformer.
Perché è importante
La discussione su questo approccio mette in evidenza la tensione tra una maggiore capacità di calcolo nei modelli di intelligenza artificiale e la possibilità di sottoporli a controllo. Con l’aumentare della parte del ragionamento che si svolge al di fuori della catena di pensiero visibile, per i ricercatori potrebbe diventare più difficile valutare gli errori del modello, i problemi di sicurezza e i processi decisionali. Sebbene si affermi che OpenAI punti a mantenere leggibile la catena di pensiero e a limitare l’uso del metodo, non è ancora chiaro se in Astra venga utilizzato un looped transformer. Questa incertezza solleva interrogativi non solo sulle capacità tecniche del modello, ma anche sulla misura in cui sarà possibile effettuare un controllo della sicurezza. Le valutazioni degli esperti sulla possibilità di una regolamentazione lasciano aperta la questione se l’aumento delle prestazioni avverrà a scapito di sistemi meno osservabili.
Contesto
OpenAI non è un nome nuovo nell’archivio di FikirPilot: negli ultimi 90 giorni abbiamo pubblicato 12 notizie in cui compare questo nome; la più recente è del 3 settembre 2026.