I ricercatori di Google e Google DeepMind hanno fondato il DeepMind Institute per ampliare il dibattito sull’intelligenza artificiale generale (AGI). Tra i dirigenti dell’istituto figurano il cofondatore di DeepMind Shane Legg, il dirigente di Google James Manyika e il presidente di Google DeepMind Demis Hassabis; Legg ricopre anche il ruolo di direttore editoriale. L’istituzione mira a mettere in luce le diverse prospettive presenti in Google, Google DeepMind e nella comunità di ricerca globale.
La prima raccolta comprende quattro articoli: le politiche per gestire l’impatto economico dell’AGI, la preservazione della leggibilità da parte degli esseri umani del ragionamento dei modelli, i principi del benessere umano e un quadro per la valutazione dei modelli di intelligenza artificiale all’avanguardia. I ricercatori di sicurezza di DeepMind Rohin Shah e Anca Dragan sostengono che la riduzione della trasparenza non sia inevitabile, nonostante le nuove architetture che rendono più difficile monitorare i modelli potenti. I ricercatori propongono che sviluppatori e autorità di regolamentazione valutino opzioni come la limitazione dell’“opaque serial depth” o la dimostrazione della tracciabilità dei sistemi meno trasparenti.
Hassabis propone invece la creazione, sotto la guida degli Stati Uniti, di un organismo di normazione incaricato di valutare i modelli più avanzati. Inizialmente, gli sviluppatori sottoporrebbero volontariamente i propri modelli a una revisione fino a 30 giorni prima del loro lancio; se il sistema si dimostrasse efficace, il superamento della valutazione potrebbe diventare un requisito per la distribuzione negli Stati Uniti. Con il tempo, l’istituzione svilupperà test “held-out” segreti per impedire ai laboratori di adattare i modelli in base ai risultati. Se necessario, potrebbe essere presa in considerazione anche un rallentamento coordinato degli sviluppi dell’intelligenza artificiale all’avanguardia. Gli articoli mostrano che il dibattito sulla sicurezza si sta spostando da preoccupazioni generali verso proposte concrete di supervisione e rallentamento.
Perché è importante
L’istituto sta portando il dibattito sull’AGI oltre la questione della sola capacità tecnica, trasformandolo in un ambito di policy affrontato insieme alla gestione economica, al benessere umano, alla trasparenza e alle condizioni di accesso al mercato. Questo quadro pone per gli sviluppatori di modelli non solo la necessità di fornire dichiarazioni sulla sicurezza, ma anche di spiegare come vengono sottoposti a supervisione i sistemi e quali valutazioni hanno superato. Dal punto di vista dei regolatori, al centro del dibattito vi è la questione delle condizioni in cui le revisioni volontarie si trasformeranno in norme vincolanti. Le proposte di test segreti e di un rallentamento coordinato lasciano invece aperta la questione di quanto la supervisione possa essere condotta indipendentemente dalle misurazioni e dagli aggiustamenti effettuati dagli stessi laboratori.
Contesto
Google non è un nome nuovo nell’archivio di FikirPilot: negli ultimi 90 giorni abbiamo pubblicato 43 articoli in cui compare questo nome; il più recente è datato 19 settembre 2026.