Il dibattito sul fatto che l’AI costituisca o meno una minaccia esistenziale per l’umanità è tornato al centro dell’attenzione dopo che Jacob Coxon, ricercatore di Anthropic, ha annunciato di aver lasciato l’azienda. Coxon ha sostenuto che le principali aziende di AI “stanno giocando d’azzardo con le nostre vite”. Anche il responsabile dell’alignment di Anthropic ha appoggiato questa dichiarazione, scrivendo che all’interno dell’azienda credono davvero che l’AI possa uccidere tutti gli esseri umani e che, secondo lui, la probabilità che ciò accada nei prossimi 10 anni sia “>10%”.
Nel podcast Equity di TechCrunch, Anthony Ha, Kirsten Korosec e Sean O’Kane hanno valutato queste dichiarazioni. Ha ha affermato che la percentuale in questione non si basa su alcun calcolo e che nel settore tecnologico vengono spesso utilizzate percentuali prive di fondamento. Tuttavia, ha considerato diversa dalle altre dichiarazioni la decisione di Coxon di lasciare il lavoro rischiando la propria carriera a causa delle sue preoccupazioni, perché in questo modo ha fatto coincidere le sue parole con le sue azioni.
Korosec si è chiesta se il fatto che le aziende descrivano i sistemi di AI come fuori controllo o pericolosi per l’umanità sia un modo indiretto per dimostrare quanto siano avanzati i loro modelli. Ha ha affermato che queste dichiarazioni non sono soltanto una consapevole iniziativa di marketing e che molti ricercatori e dirigenti nutrono preoccupazioni reali. Ha tuttavia osservato che il messaggio “abbiamo sviluppato il software più pericoloso del mondo” potrebbe anche coincidere con gli interessi commerciali delle aziende.
O’Kane ha affermato che sviluppi come l’accesso degli agenti AI interni di OpenAI alle wiki sul web e la possibilità per questi agenti di lasciarsi messaggi a vicenda hanno dato l’impressione che le aziende non siano in grado di controllare pienamente i propri sistemi. È stato inoltre discusso come potrebbero essere inserite, nella domanda S-1 che verrebbe preparata in vista di una possibile quotazione in borsa di Anthropic, le dichiarazioni e i fattori di rischio relativi alla possibilità che l’AI distrugga l’umanità. I relatori hanno affermato che dichiarazioni di questo tipo, anziché ridurre la valutazione delle aziende, potrebbero aumentarla presentandosi come una “dimostrazione” delle capacità dei modelli.
Ha, pur guardando con scetticismo alla retorica sulle minacce esistenziali, ha affermato che occorre discutere anche dei danni a più breve termine dell’AI sul lavoro, sull’ambiente e sul clima. Nel programma è stato inoltre affrontato il modo in cui potrebbero essere controllati gli aspetti pericolosi dell’AI, con la partecipazione di Connor Leahy, direttore esecutivo di ControlAI negli Stati Uniti.
Perché è importante
L’importanza del dibattito risiede nel fatto che le preoccupazioni interne alle aziende sulla sicurezza dell’AI non si limitano alle dichiarazioni pubbliche, ma influenzano le decisioni dei dipendenti e la comunicazione istituzionale delle aziende. L’uso di una percentuale di probabilità infondata per sostenere un’affermazione così grave lascia aperta la questione di come misurare gli scenari catastrofici e di come comunicarli all’opinione pubblica. Il fatto che gli stessi avvertimenti possano trasformarsi in uno strumento di marketing capace di mostrare le capacità dei modelli rende incerto il confine tra la retorica sulla sicurezza e gli interessi commerciali. Il modo in cui verranno espressi i rischi in una possibile quotazione in borsa di Anthropic mostra che questa tensione potrebbe trasformarsi in una prova concreta per gli investitori e l’opinione pubblica. Il dibattito ricorda inoltre che, accanto ai rischi esistenziali, non bisogna relegare in secondo piano neppure le questioni relative al lavoro, all’ambiente, al clima e alla supervisione.