Baseten a annoncé un partenariat et une norme visant à développer, par l’intermédiaire de sa branche de recherche Base Labs, une infrastructure d’évaluation et de surveillance de la sécurité pour les modèles à poids ouverts, avec Hugging Face et Goodfire AI. Dans un communiqué daté du 17 septembre 2026, l’entreprise indique vouloir intégrer les mesures de sécurité dès le départ aux processus d’entraînement et de mise à disposition des modèles, plutôt que de les ajouter ultérieurement.
Les modèles à poids ouverts font débat en raison d’une technique appelée « abliteration », qui permet de supprimer les mesures de sécurité. Plus de 6 000 modèles ayant fait l’objet d’une abliteration sont actuellement répertoriés sur Hugging Face. Base Labs développera et publiera des méthodes pour entraîner et surveiller les modèles ouverts.
Les modalités techniques du partenariat n’ont pas été précisées. Goodfire AI, qui étudie la manière dont les modèles prennent leurs décisions, apparaît comme l’entreprise susceptible de jouer un rôle dans l’objectif consistant à intégrer la sécurité au cœur des modèles. Baseten, fournisseur de services d’inférence en intelligence artificielle, a levé en juin 1,5 milliard de dollars lors d’un tour de financement Series F, portant sa valorisation à 13 milliards de dollars. Goodfire AI a, de son côté, levé 150 millions de dollars lors d’un tour Series B mené par B Capital au début de cette année.
Baseten a lancé un appel ouvert à l’écosystème des développeurs afin qu’ils contribuent au développement du cadre. L’entreprise a déclaré vouloir mettre en place un écosystème dans lequel les modèles ouverts seraient sûrs et accessibles à tous.
Pourquoi c’est important
La possibilité de supprimer les mesures de sécurité des modèles à poids ouverts montre que les mesures prises après la publication du modèle pourraient ne pas suffire à elles seules. Par conséquent, il devient important de déterminer à quelle étape et selon quels critères les évaluations de sécurité seront menées pour les développeurs, les institutions qui utilisent le modèle et les utilisateurs ayant accès à l’écosystème des modèles ouverts. L’approche annoncée vise à faire de la sécurité une composante du processus de développement des modèles sans renoncer à l’accessibilité ; toutefois, la manière dont elle sera appliquée au suivi des modèles existants n’est pas encore claire. Le fonctionnement technique du partenariat n’ayant pas été expliqué, la manière dont les normes classeront les modèles ayant fait l’objet d’une abliteration, mesureront les risques et intégreront les contributions des développeurs au processus reste incertaine.
Contexte
Face n’est pas un nouveau nom dans les archives de FikirPilot : nous avons publié 8 articles mentionnant ce nom au cours des 90 derniers jours ; le plus récent date du 13 septembre 2026.
Terme : poids ouverts
Les poids ouverts désignent le fait que les paramètres entraînés d’un modèle d’intelligence artificielle peuvent être téléchargés ; comme les données d’entraînement et le code peuvent ne pas être ouverts, cette notion n’est pas synonyme d’open source.