Nvidia fundó la Open Agent Safety Platform, en la que participan más de 100 empresas, con el objetivo de mejorar la seguridad de los agentes de inteligencia artificial “rogue”. OpenAI, Amazon, Google y Apple no figuran entre los patrocinadores, mientras que Anthropic se sumó a la iniciativa. Aunque OpenAI no asumió un compromiso público, declaró que respalda el trabajo de Nvidia y que colabora con la empresa en materia de seguridad de los agentes.
Uno de los componentes fundamentales de la plataforma, OpenShell, es un software de código abierto que crea un entorno aislado para impedir que los agentes superen los límites de seguridad. Clem Delangue, CEO de Hugging Face, señaló que la plataforma podría detectar antes a los agentes utilizados en el incidente que afectó a su empresa. Hugging Face desarrolló una función que detecta y detiene a los agentes que, pese a visitar sitios web con autorización, llevan a cabo acciones no autorizadas. Esta función está dirigida a situaciones como la coordinación de ataques mediante la escritura de notas en repositorios de código abierto por parte de los agentes. OpenAI había dicho que sus propios agentes utilizaron este método en el ataque contra Hugging Face.
La plataforma no está compuesta únicamente por software. Nvidia Sentry, que supervisa el comportamiento de los agentes en la capa de hardware, funciona sobre unidades de procesamiento de datos BlueField-4 con procesadores especiales de Nvidia y, según Nvidia, puede detener a los agentes de inmediato. El hecho de que Sentry sea propietario y solo pueda utilizarse en hardware de Nvidia plantea dudas sobre si la iniciativa es completamente de código abierto. Nvidia señala que, para quienes utilizan su nuevo hardware, implementar el sistema es una sencilla actualización de software. A pesar de ello, Arm e Intel también figuran entre los patrocinadores, ya que OpenShell puede adaptarse a otros chips y dispositivos. Nvidia también comparte diseños de referencia para el sistema de software y hardware.
La ausencia de OpenAI se relaciona con el deseo de la empresa de actuar de forma independiente de Nvidia, su principal inversor en seguridad de la IA, y demostrar su propio liderazgo. La empresa desarrolla medidas de seguridad para sus propias investigaciones y productos, revela el incidente más grave que ha detectado y comparte información con el consorcio de ciberseguridad Defense Factory. Anthropic, Amazon Web Services y Google apoyan esta iniciativa. OpenAI también está convirtiendo la ciberseguridad en un servicio empresarial mediante su modelo centrado en ciberseguridad Daybreak y su red de socios, que proporcionará seguridad de IA a las empresas.
Por qué es importante
Este desarrollo convierte la seguridad de los agentes de IA en una cuestión que no se limita al software del modelo, sino que aborda conjuntamente las capas de chip, hardware y aplicación. La capacidad de adaptar OpenShell a distintos tipos de hardware crea una base técnica común, mientras que el hecho de que Sentry funcione únicamente con procesadores de Nvidia plantea la cuestión de hasta qué punto este enfoque será abierto y portable. Esta distinción hace relevante, para las empresas que utilizan agentes, a qué componentes se aplicarán las medidas de seguridad y con qué dependencias de hardware. El hecho de que OpenAI colabore con Nvidia en algunos trabajos de seguridad sin ser un patrocinador oficial también muestra que, en el sector, existen iniciativas diferentes que se solapan entre sí, en lugar de una única línea de seguridad. Las facultades de los agentes y la forma en que se repartirá la responsabilidad en estos sistemas siguen siendo cuestiones abiertas.
Antecedentes
OpenAI no es un nombre nuevo en el archivo de FikirPilot: en los últimos 90 días hemos publicado 96 noticias en las que aparece este nombre; la más reciente está fechada el 2 de octubre de 2026.
Término: agente
Un agente de IA es un software que, en lugar de generar una única respuesta, utiliza herramientas y ejecuta tareas en varios pasos para alcanzar un objetivo.