Nel podcast Equity di TechCrunch, Anthony Ha, Kirsten Korosec e Sean O’Kane hanno discusso se il settore dell’intelligenza artificiale sia pronto a rallentare il proprio sviluppo o a procedere in modo più controllato secondo l’approccio “pace the frontier”. La discussione è iniziata dopo il piano del CEO di Anthropic Dario Amodei per “pace” l’avanzamento dell’AI di frontiera e dichiarazioni analoghe del CEO di OpenAI Sam Altman. Il CEO di Nvidia Jensen Huang ha invece sostenuto le opinioni del presidente Donald Trump, secondo cui la reazione contraria all’intelligenza artificiale è una “hoax” e non vi è alcuna necessità di regolamentazione.
Sean O’Kane ha definito il sostegno all’idea di un rallentamento da parte di Anthropic, OpenAI e, in una certa misura, Elon Musk un cambiamento significativo rispetto alle loro precedenti valutazioni. Ha tuttavia sostenuto che il piano illustrato da Amodei nel suo post sul blog non contenga dettagli sufficienti sulle cause dei rischi e su cosa significherebbe concretamente “rallentare”. Anche Anthony Ha ha affermato che, sebbene il consenso formatosi rapidamente nel settore intorno al piano sia incoraggiante, ciò solleva dubbi sul fatto che si tratti di un passo reale e di ampia portata verso il rallentamento.
Kirsten Korosec ha dichiarato che questo approccio riguarda in particolare i laboratori di frontier AI, elencando così le principali proposte:
- Valutatori indipendenti di terze parti che lavorino presso aziende come Anthropic e OpenAI per monitorare le pratiche e gli incidenti relativi alla sicurezza dell’intelligenza artificiale.
- Il coordinamento delle grandi aziende di intelligenza artificiale nei Paesi democratici sugli standard e sui limiti di sicurezza.
- Il coordinamento a livello internazionale.
Korosec ha dichiarato che il quadro generale di queste proposte è noto, ma che i dettagli restano incerti e che esiste anche la possibilità che l’accordo possa trasformarsi nell’inizio di un cartello. Ha inoltre affermato che il CEO di Nvidia Jensen Huang si è opposto con fermezza a questo approccio.
Secondo O’Kane, Huang occupa una posizione di importante intermediario tra il settore e l’amministrazione Trump e adotta un atteggiamento favorevole alla crescita delle aziende di intelligenza artificiale. Korosec ha invece sostenuto che questo atteggiamento di Huang è legato ai suoi interessi, poiché Nvidia beneficia enormemente del progresso dell’intelligenza artificiale senza limitazioni. Ha inoltre affermato che gli interessi di Trump e Huang coincidono e che, sebbene le proposte includano misure di sicurezza, non impongono esplicitamente che l’intelligenza artificiale avanzi più lentamente di quanto faccia oggi.
Nel podcast è stato discusso anche se le normative vigenti e il libero mercato siano sufficienti a garantire la sicurezza. O’Kane ha dichiarato che il governo federale non sembra intenzionato ad applicare le normative e che le preferenze dei consumatori non orientano a sufficienza questo mercato. Ha sostenuto che le aziende vendono più servizi ai clienti aziendali e ricevono il sostegno del capitale d’investimento; pertanto, in caso di un problema grave, non ci si può aspettare che i clienti passino facilmente dal Codex di OpenAI a Claude Code di Anthropic.
Perché è importante
L’importanza del dibattito risiede nel fatto che pone in primo piano la questione se la sicurezza dell’AI debba basarsi esclusivamente sulle decisioni volontarie delle aziende oppure su verifiche indipendenti e standard comuni tra i Paesi. Sebbene il quadro proposto riguardi in particolare i laboratori che sviluppano l’IA di frontiera, il raggiungimento di un accordo tra queste aziende sulle stesse regole potrebbe favorire la cooperazione in materia di sicurezza, ma anche trasformarsi in una struttura che limita la concorrenza. L’approccio di Nvidia, invece, porta il dibattito oltre i confini della sicurezza tecnica; resta incerto quanto divergano gli interessi delle aziende e delle amministrazioni pubbliche riguardo alla velocità dell’AI. Pertanto, la questione fondamentale ancora aperta è come funzionerà la valutazione indipendente, quali rischi saranno affrontati e con quali soglie, e se le normative esistenti vincoleranno effettivamente le aziende nella pratica.