Nelle ultime settimane, i dirigenti di alcune grandi aziende di intelligenza artificiale hanno avvertito che la tecnologia da loro sviluppata è pericolosa. Il CEO di Anthropic, Dario Amodei, ha affermato che i progressi dovrebbero essere rallentati, mentre il CEO di OpenAI, Sam Altman, ha dichiarato di concordare con lui sul fatto che sia necessario regolare il ritmo delle attività “frontier”.
Il ricercatore Jacob Coxon, che ha lasciato Anthropic, ha accusato Anthropic e OpenAI, dove aveva lavorato in precedenza, di non comportarsi responsabilmente. Coxon ha scritto che gli sviluppatori di intelligenza artificiale ritengono che questa tecnologia potrebbe uccidere tutta l’umanità entro la fine del decennio. Anche il dipendente di Anthropic Evan Hubinger ha condiviso questa opinione, affermando di valutare la probabilità per il prossimo decennio come “>10%”.
Una delle preoccupazioni è che l’intelligenza artificiale possa aiutare a progettare armi biologiche, come virus letali che prendano di mira i geni umani, funghi capaci di distruggere l’agricoltura o tossine che potrebbero essere aggiunte all’acqua senza essere rilevate. Nel 2022, i ricercatori di Collaborations Pharmaceuticals hanno dimostrato che, utilizzando un generatore di molecole da loro sviluppato, era possibile produrre in meno di sei ore 40.000 molecole che potevano essere agenti di guerra chimica; alcune erano state progettate per essere più tossiche dei noti agenti nervini.
David Magnus, di Stanford, lo ha definito molto spaventoso. Secondo la ricercatrice di biosecurity dell’Università di Amburgo Dunja Sabra, i bot di intelligenza artificiale possono fornire informazioni scientifiche, istruzioni per gli esperimenti e video didattici. La diffusione dell’editing genetico, della biologia sintetica e dei laboratori domestici aumenta il rischio.
Sono già disponibili screening del DNA, “red-teaming”, “blue-teaming” e misure di sicurezza per l’intelligenza artificiale; tuttavia, Sabra afferma che alla fine una persona determinata potrebbe riuscire nel proprio intento.
Perché è importante
Questa discussione dimostra che la sicurezza dell’intelligenza artificiale non si limita al modo in cui i sistemi si comportano, ma comprende anche la possibilità di un uso improprio delle minacce biologiche e chimiche nella fase di progettazione. Sebbene gli screening del DNA disponibili, i metodi di supervisione tra team e le altre misure di sicurezza mirino a ridurre il rischio, resta aperto il dubbio che siano sufficienti a impedire l’iniziativa di una persona determinata. Pertanto, la questione principale non riguarda soltanto come calibrare la velocità di sviluppo, ma anche in quale fase applicare i controlli di sicurezza e in quale misura considerarli sufficienti. Il tema riguarda direttamente, oltre ai dirigenti e ai dipendenti delle aziende di intelligenza artificiale, anche i ricercatori interessati all’editing genetico, alla biologia sintetica e ai laboratori domestici.
Termine: agente
Un agente di intelligenza artificiale è un software che, invece di produrre una singola risposta, richiama strumenti e svolge attività in più fasi per raggiungere un obiettivo.