La técnica de “recurrent depth” que, según se informa, OpenAI utilizará en su nuevo modelo Astra ha preocupado a los expertos en seguridad de la inteligencia artificial. Según informó The Information, el método, también denominado “opaque recurrence”, permite al modelo procesar la misma consulta varias veces dentro de un bucle, apartándose del modo de pensamiento secuencial presente en la mayoría de los modelos de razonamiento. Este enfoque podría dificultar el seguimiento de la cadena de pensamiento del modelo.
El CEO de Redwood, Buck Shlegeris, afirmó estar “sumamente preocupado” por el uso de esta técnica en Astra. Zvi Mowshowitz sostuvo que podrían ser necesarias leyes para evitar una “carrera hacia el abismo” entre las empresas de inteligencia artificial. Según los expertos, aunque los registros tradicionales de la cadena de pensamiento no muestran de manera completamente perfecta los pasos que sigue el modelo al resolver problemas, constituyen una herramienta importante para examinar comportamientos erróneos o desalineados. Estos registros también se utilizaron para investigar las actividades recientes de agentes descontrolados de OpenAI.
Se informó que, por ahora, el uso del método en Astra es limitado y que se espera que la cadena de pensamiento del modelo siga siendo legible. OpenAI rechazó los comentarios de que el modelo pasaría al “neuralese” y reiteró su compromiso con la trazabilidad de las cadenas de pensamiento. El científico jefe Jakub Pachocki declaró que preservar esta trazabilidad desde los primeros modelos de razonamiento ha sido uno de los objetivos fundamentales de su programa de investigación.
A pesar de ello, se señala que la trazabilidad podría reducirse aún más si el método se generaliza. The Information informó que Anthropic y Google DeepMind también han mantenido conversaciones sobre la técnica. Ryan Greenblatt, científico jefe de Redwood Research, expresó su preocupación de que el razonamiento opaco crezca hasta trasladar los pensamientos del modelo a un espacio completamente o en gran medida oculto.
Por qué es importante
La generalización de este enfoque podría dificultar los procesos de seguridad que supervisan por qué los sistemas de inteligencia artificial llegan a un resultado determinado. Aunque las cadenas de pensamiento no constituyen un registro de auditoría perfecto, son una de las principales herramientas utilizadas para examinar comportamientos erróneos o desalineados, por lo que la opacificación parcial de estos registros podría afectar a la capacidad de los investigadores para diagnosticar problemas. El hecho de que, por ahora, se espere que se preserve la trazabilidad en Astra demuestra que el debate se centra más en hasta qué punto se utilizará el método en el futuro que en el modelo actual. El interés de Anthropic y Google DeepMind por la misma técnica indica que el asunto ha dejado de ser una mera decisión de producto de una sola empresa y ha pasado a estar relacionado con los estándares de seguridad de la inteligencia artificial y la posible necesidad de regulación.
Antecedentes
OpenAI no es un nombre nuevo en el archivo de FikirPilot: en los últimos 90 días hemos publicado 21 noticias en las que aparece este nombre; la más reciente está fechada el 6 de septiembre de 2026.