Il Panel scientifico internazionale indipendente sull’intelligenza artificiale delle Nazioni Unite ha dichiarato che le misure di sicurezza non dovrebbero essere rinviate finché non saranno compresi i rischi degli agenti avanzati di intelligenza artificiale. La valutazione tematica del panel, istituito lo scorso anno, esamina i problemi di controllo e sicurezza emersi dopo l’attacco a Hugging Face, collegato a OpenAI, di cui si è parlato all’inizio di quest’anno. Secondo il rapporto, i governi dovrebbero adottare misure preventive in anticipo, invece di aspettare che si verifichino gli eventi; l’incertezza scientifica non dovrebbe ritardare la regolamentazione. Mentre le capacità degli agenti autonomi e semi-autonomi si ampliano, occorre rafforzare il coordinamento internazionale, i principi comuni di sicurezza e responsabilità, e destinare risorse ai meccanismi di sicurezza e di responsabilità. Nella valutazione pubblicata durante il periodo dell’Assemblea generale delle Nazioni Unite a New York, António Guterres ha invitato i Paesi ad agire insieme. Guterres ha affermato che la competizione al ribasso sugli standard di sicurezza è inaccettabile. Il panel considera la perdita di controllo un rischio incerto, ma dalle gravi conseguenze.
Perché è importante
La questione centrale della valutazione è se le decisioni in materia di sicurezza possano essere rinviate in attesa di prove scientifiche certe, mentre le capacità degli agenti di intelligenza artificiale si ampliano. Questo quadro colloca la governance dell’intelligenza artificiale non soltanto nel campo del progresso tecnico, ma anche in quello dell’adozione di misure preventive, degli standard comuni e della condivisione delle responsabilità. Le raccomandazioni portano al centro del coordinamento internazionale la questione di come armonizzare i diversi approcci alla sicurezza adottati dai Paesi in termini di controllo, allocazione delle risorse e responsabilità. Tuttavia, l’incertezza del rischio di perdita di controllo lascia aperte le domande su quale soglia debba rendere obbligatorie determinate misure e su come debba essere distribuita la responsabilità delle gravi conseguenze.
Termine: agente
Un agente di intelligenza artificiale è un software che, invece di produrre una singola risposta, richiama strumenti e svolge attività in più fasi per raggiungere un obiettivo.