Il cofondatore di Anthropic Jack Clark ha dichiarato alla BBC che in futuro la società potrebbe stabilire regole per un «pulsante di arresto di emergenza», utilizzabile da una terza parte, che disattivi completamente un’intelligenza artificiale diventata pericolosa. Clark ha affermato che nelle aziende, compresa Anthropic, esistono vari metodi di arresto e ha chiesto che la necessità e la supervisione siano incluse in un più ampio dibattito politico. Pur senza attribuire una percentuale alla probabilità di estinzione dell’umanità, Clark ha dichiarato che un settore privo di controllo è una cattiva idea e che «si sta scommettendo con rischi enormi». Jacob Coxon, che negli ultimi tre anni ha lavorato presso OpenAI e Anthropic, si è dimesso accusando le aziende di irresponsabilità; ha sostenuto che nel prossimo futuro i sistemi potrebbero «hackerare qualsiasi cosa» e che alcuni dipendenti ritengono che possano «uccidere l’umanità» entro 10 anni.
Perché è importante
La proposta apre il dibattito su un meccanismo di supervisione azionabile dall’esterno e indipendente dalle misure interne adottate dalle aziende per la sicurezza dell’intelligenza artificiale. Una simile regolamentazione solleva interrogativi su quale soglia di rischio debba determinare l’arresto di un sistema, chi debba prendere la decisione e sotto quale supervisione. L’opposizione di Clark all’idea di lasciare il settore alla propria autoregolamentazione porta nel più ampio dibattito politico la questione se la responsabilità della sicurezza debba spettare esclusivamente alle aziende sviluppatrici. Le dimissioni di Coxon e le sue affermazioni sugli attacchi informatici e sull’esistenza dell’umanità offrono lo spunto per interrogarsi sul rapporto tra le valutazioni dei rischi all’interno delle aziende e le misure rese pubbliche. Restano tuttavia da chiarire come sarà definita l’autorità della terza parte, in che modo si distinguerà dagli attuali metodi di arresto e come saranno verificate le affermazioni.
Contesto
Anthropic non è un nome nuovo nell’archivio di FikirPilot: negli ultimi 90 giorni abbiamo pubblicato 13 notizie in cui compare questo nome; la più recente è datata 15 settembre 2026.