Il CEO di Anthropic, Dario Amodei, ha illustrato un piano in tre fasi, sostenendo che sia necessario rallentare il ritmo dello sviluppo dell’intelligenza artificiale. Amodei ha dichiarato che, con i progressi dell’intelligenza artificiale diventati «drasticamente più rapidi» negli ultimi mesi e con l’aumento della capacità di sviluppare la prossima generazione di intelligenza artificiale, l’incidente di hacking OpenAI-Hugging Face richiede un approccio più prudente. Affermando che è necessario ridurre il ritmo degli sviluppi dell’intelligenza artificiale «di frontiera», Amodei ha sottolineato che, se il tempo guadagnato verrà utilizzato con attenzione, i progressi resteranno comunque rapidi.
Il primo passo del piano prevede che «valutatori integrati» provenienti da organizzazioni terze come METR operino all’interno delle aziende di intelligenza artificiale. Queste persone dovrebbero verificare se le aziende rispettano gli impegni in materia di sicurezza e rallentamento e garantire la segnalazione degli incidenti di sicurezza. Amodei ha dichiarato che Anthropic attuerà unilateralmente questa misura e che ai valutatori verranno forniti un’identità aziendale, uno spazio di lavoro e un computer portatile. Si prevede che queste persone abbiano, salvo limitazioni legali o contrattuali, un accesso in larga misura simile a quello dei team interni di valutazione dei rischi delle aziende. Il CEO di OpenAI, Sam Altman, ha sostenuto la proposta e ha annunciato che anche la sua azienda compirà lo stesso passo.
La seconda proposta consiste nel creare un coordinamento tra le principali aziende di intelligenza artificiale dei Paesi democratici, al fine di stabilire standard comuni di sicurezza e limiti al ritmo dei progressi non sottoposti a supervisione. Amodei ha chiesto al governo degli Stati Uniti di facilitare questi colloqui o di concedere un’esenzione limitata per determinate discussioni sulla sicurezza, a causa delle preoccupazioni antitrust.
Amodei ha sostenuto anche che il progresso della Cina nel campo dell’intelligenza artificiale potrebbe essere rallentato. Ha dichiarato che, se il governo degli Stati Uniti e le aziende tecnologiche impedissero la vendita alle aziende cinesi di chip potenti e apparecchiature per la produzione di semiconduttori e adottassero misure contro la distillazione dei modelli, gli Stati Uniti potrebbero ampliare significativamente il proprio vantaggio nei prossimi 3-5 anni.
La terza fase consiste nel creare, per quanto possibile, un coordinamento globale tra gli Stati Uniti, i loro alleati e i governi autoritari. Amodei ha affermato che la cooperazione con la Cina potrebbe rimanere limitata, ma che potrebbero essere conclusi accordi circoscritti, come il divieto di utilizzare l’intelligenza artificiale per la produzione di armi biologiche.
Il ricercatore di Anthropic Jacob Coxon si è dimesso, sostenendo che le aziende stanno mettendo a rischio vite umane. Mentre l’approccio di Amodei è stato giudicato eccessivamente pessimista da alcuni ambienti, il giornalista Brian Merchant ha sostenuto che questi avvertimenti oscurano i danni già esistenti. Amodei ha invece dichiarato di credere che l’intelligenza artificiale possa migliorare in larga misura la qualità della vita, ma che ciò dipenda dal corretto sviluppo della tecnologia.
Perché è importante
La proposta concretizza il dibattito sulla necessità di sottrarre la sicurezza dell’AI alle sole dichiarazioni delle aziende e di sottoporla a verifiche indipendenti. Concedere ai valutatori un accesso simile a quello dei team interni che si occupano dei rischi trasforma direttamente in una questione di governance aziendale gli interrogativi su come verificare gli impegni in materia di sicurezza e su quando segnalare gli incidenti. L’appello a standard comuni tra le aziende porta invece in primo piano la tensione tra il diritto della concorrenza e la sicurezza pubblica; per questo, l’eventuale ruolo del governo degli Stati Uniti non è soltanto tecnico, ma anche normativo. La proposta di un accordo limitato con la Cina sulle restrizioni relative ai chip e alle apparecchiature per semiconduttori mostra che il dibattito si è esteso al commercio tecnologico e alla sicurezza internazionale. Tuttavia, le dimissioni e le critiche evidenziano che la riduzione della velocità non è stata condivisa da tutti e che resta aperta la questione di quali rischi debbano essere considerati prioritari.
Contesto
Anthropic non è un nome nuovo nell’archivio di FikirPilot: negli ultimi 90 giorni abbiamo pubblicato 20 notizie in cui compariva questo nome; la più recente è datata 13 settembre 2026.