Investigadores de Google y Google DeepMind fundaron DeepMind Institute con el objetivo de ampliar el debate sobre la inteligencia artificial general (AGI). Entre los directivos del instituto se encuentran el cofundador de DeepMind Shane Legg, el ejecutivo de Google James Manyika y el director de Google DeepMind Demis Hassabis; Legg también ejerce como editor ejecutivo. La institución aspira a presentar diferentes perspectivas de Google, Google DeepMind y la comunidad investigadora global.
La primera recopilación incluye cuatro artículos: políticas para gestionar el impacto económico de la AGI, preservar la legibilidad humana del razonamiento de los modelos, principios de bienestar humano y un marco para evaluar modelos de inteligencia artificial de vanguardia. Los investigadores de seguridad de DeepMind Rohin Shah y Anca Dragan sostienen que la disminución de la transparencia no es inevitable pese a las nuevas arquitecturas que dificultan el seguimiento de los modelos potentes. Los investigadores proponen que desarrolladores y reguladores evalúen opciones como limitar la “opaque serial depth” o demostrar la trazabilidad de sistemas menos transparentes.
Hassabis, por su parte, propone crear una organización de estándares liderada por Estados Unidos que evalúe los modelos más avanzados. Inicialmente, los desarrolladores someterán voluntariamente sus modelos a revisión hasta 30 días antes de su lanzamiento; si el sistema resulta eficaz, aprobar la evaluación podría convertirse en un requisito para su despliegue en Estados Unidos. Con el tiempo, la institución desarrollará pruebas confidenciales “held-out” para evitar que los laboratorios ajusten los modelos según los resultados. Cuando sea necesario, también podría plantearse la ralentización coordinada de los desarrollos de inteligencia artificial de vanguardia. Los artículos muestran que el debate sobre seguridad se ha desplazado de preocupaciones generales a propuestas concretas de supervisión y ralentización.
Por qué es importante
El instituto está trasladando el debate sobre AGI de una cuestión centrada únicamente en la capacidad técnica a un ámbito de política pública que también aborda la gestión económica, el bienestar humano, la transparencia y las condiciones de acceso al mercado. Este marco plantea para los desarrolladores de modelos no solo la obligación de presentar una declaración de seguridad, sino también la de explicar cómo se supervisan los sistemas y por qué evaluaciones han pasado. Desde la perspectiva de los reguladores, el centro del debate es en qué condiciones las revisiones voluntarias se convertirán en normas vinculantes. Las propuestas de realizar pruebas confidenciales y ralentizar de forma coordinada dejan abierta la cuestión de hasta qué punto la supervisión podrá llevarse a cabo con independencia de las mediciones y los ajustes realizados por los propios laboratorios.
Antecedentes
Google no es un nombre nuevo en el archivo de FikirPilot: en los últimos 90 días hemos publicado 43 noticias en las que aparece este nombre; la más reciente está fechada el 19 de septiembre de 2026.