Baseten ha annunciato, attraverso il suo ramo di ricerca Base Labs, una partnership e uno standard con Hugging Face e Goodfire AI per sviluppare infrastrutture di valutazione e monitoraggio della sicurezza per i modelli a pesi aperti. L’annuncio del 17 settembre 2026 mira a integrare le misure di sicurezza fin dall’inizio nei processi di addestramento e distribuzione dei modelli, invece di aggiungerle in un secondo momento.
I modelli a pesi aperti sono al centro del dibattito a causa di una tecnica chiamata “abliteration”, che consente di rimuovere le misure di sicurezza. Attualmente su Hugging Face sono elencati più di 6.000 modelli sottoposti ad abliteration. Base Labs svilupperà e pubblicherà metodi per l’addestramento e il monitoraggio dei modelli aperti.
Non sono stati resi noti i dettagli tecnici del funzionamento della partnership. Goodfire AI, che analizza come vengono prese le decisioni dei modelli, emerge come una delle aziende che potrebbero svolgere un ruolo nell’obiettivo di integrare la sicurezza direttamente nei modelli. Baseten, fornitore di servizi di inferenza per l’intelligenza artificiale, ha raccolto a giugno $1,5 miliardi in un investimento Series F, portando la propria valutazione a $13 miliardi. Goodfire AI, invece, all’inizio di quest’anno ha raccolto $150 milioni in un investimento Series B guidato da B Capital.
Baseten ha rivolto un appello aperto alla comunità degli sviluppatori affinché contribuisca allo sviluppo del framework. L’azienda ha dichiarato di puntare alla creazione di un ecosistema in cui i modelli aperti siano sicuri e accessibili a tutti.
Perché è importante
La possibilità di rimuovere le misure di sicurezza nei modelli a pesi aperti dimostra che le misure adottate dopo la pubblicazione del modello potrebbero non essere sufficienti da sole. Per questo motivo, diventa importante stabilire in quale fase e secondo quali criteri debbano essere effettuate le valutazioni della sicurezza da parte degli sviluppatori, delle istituzioni che utilizzano il modello e degli utenti che accedono all’ecosistema dei modelli aperti. L’approccio annunciato mira a integrare la sicurezza nel processo di sviluppo del modello, senza rinunciare all’accessibilità; tuttavia, non è ancora chiaro come ciò verrà applicato al monitoraggio dei modelli esistenti. Poiché il funzionamento tecnico della partnership non è stato illustrato, restano aperte alcune questioni: come gli standard classificheranno i modelli sottoposti ad abliteration, come misureranno i rischi e come verranno integrate nel processo le contribuzioni degli sviluppatori.
Contesto
Face non è un nome nuovo nell’archivio di FikirPilot: negli ultimi 90 giorni abbiamo pubblicato 8 notizie in cui compare questo nome; la più recente è del 13 settembre 2026.
Termine: pesi aperti
Per pesi aperti si intende la possibilità di scaricare i parametri addestrati di un modello di intelligenza artificiale; poiché i dati di addestramento e il codice potrebbero non essere aperti, il termine non è sinonimo di open source.