Baseten anunció una asociación y un estándar con Hugging Face y Goodfire AI, a través de su división de investigación Base Labs, para desarrollar una infraestructura de evaluación y monitoreo de seguridad para modelos de pesos abiertos. El comunicado, fechado el 17 de septiembre de 2026, tiene como objetivo integrar las medidas de seguridad desde el inicio en los procesos de entrenamiento y puesta a disposición de los modelos, en lugar de añadirlas posteriormente.
Los modelos de pesos abiertos son objeto de debate debido a una técnica denominada «abliteration», que permite eliminar las medidas de seguridad. Actualmente, en Hugging Face figuran más de 6.000 modelos a los que se ha aplicado abliteration. Base Labs desarrollará y publicará métodos para entrenar y monitorear modelos abiertos.
No se explicó cómo funcionará técnicamente la asociación. Goodfire AI, que estudia cómo se toman las decisiones de los modelos, destaca como una empresa que podría desempeñar un papel en el objetivo de integrar la seguridad en los modelos. Baseten, proveedor de servicios de inferencia de IA, recibió en junio una inversión de $1,5 mil millones en una ronda Series F y elevó su valoración a $13 mil millones. Goodfire AI, por su parte, recaudó $150 millones en una ronda Series B liderada por B Capital a principios de este año.
Baseten hizo un llamado abierto al ecosistema de desarrolladores para que contribuyan al desarrollo del marco. La empresa afirmó que pretende construir un ecosistema en el que los modelos abiertos sean seguros y accesibles para todos.
Por qué es importante
La posibilidad de eliminar las medidas de seguridad en los modelos de pesos abiertos demuestra que las medidas adoptadas después de la publicación del modelo podrían no ser suficientes por sí solas. Por ello, cobran importancia las etapas y los criterios con los que se realizarán las evaluaciones de seguridad para los desarrolladores, las instituciones que utilizan el modelo y los usuarios que acceden al ecosistema de modelos abiertos. El enfoque anunciado pretende convertir la seguridad en una parte del proceso de desarrollo del modelo sin renunciar a la accesibilidad; sin embargo, aún no está claro cómo se aplicará esto al seguimiento de los modelos existentes. Dado que no se ha explicado el funcionamiento técnico de la asociación, siguen abiertas preguntas sobre cómo clasificarán los estándares los modelos sometidos a abliteration, cómo medirán los riesgos y cómo se incorporarán al proceso las contribuciones de los desarrolladores.
Antecedentes
Face no es un nombre nuevo en el archivo de FikirPilot: en los últimos 90 días hemos publicado 8 noticias en las que aparece este nombre; la más reciente está fechada el 13 de septiembre de 2026.
Término: pesos abiertos
Los pesos abiertos significan que los parámetros entrenados de un modelo de inteligencia artificial pueden descargarse; como los datos de entrenamiento y el código podrían no ser abiertos, el término no significa lo mismo que código abierto.