A técnica de “recurrent depth”, que, segundo relatos, será usada pela OpenAI em seu novo modelo Astra, preocupou especialistas em segurança de IA. De acordo com uma reportagem do The Information, o método, também chamado de “opaque recurrence”, permite que o modelo processe a mesma consulta várias vezes dentro de um loop, saindo do modo sequencial de pensamento presente na maioria dos modelos de raciocínio. Essa abordagem pode dificultar o acompanhamento da cadeia de pensamento do modelo.
Buck Shlegeris, CEO da Redwood, afirmou estar “extremamente preocupado” com o uso dessa técnica pelo Astra. Zvi Mowshowitz defendeu que pode ser necessário criar leis para evitar uma “corrida ao fundo do poço” entre as empresas de IA. Segundo especialistas, embora os registros tradicionais da cadeia de pensamento não mostrem de forma totalmente perfeita as etapas seguidas pelo modelo ao resolver problemas, eles são uma ferramenta importante para analisar comportamentos incorretos ou desalinhados. Esses registros também foram usados na investigação das recentes atividades de agentes descontrolados da OpenAI.
Foi relatado que, por enquanto, o uso do método no Astra é limitado e que se espera que a cadeia de pensamento do modelo continue legível. A OpenAI rejeitou os comentários de que o modelo passaria para o “neuralese” e reiterou seu compromisso com a possibilidade de monitorar as cadeias de pensamento. O cientista-chefe Jakub Pachocki afirmou que preservar essa capacidade de monitoramento desde os primeiros modelos de raciocínio tem sido um dos principais objetivos de seu programa de pesquisa.
Apesar disso, afirma-se que, caso o método se torne difundido, a capacidade de monitoramento poderá diminuir ainda mais. O The Information informou que Anthropic e Google DeepMind também discutiram a técnica. Ryan Greenblatt, cientista-chefe da Redwood Research, declarou estar preocupado com a possibilidade de o raciocínio opaco se expandir e levar os pensamentos do modelo para um espaço totalmente ou em grande parte oculto.
Por que isso é importante
A disseminação dessa abordagem pode dificultar os processos de segurança que monitoram por que os sistemas de inteligência artificial chegam a determinado resultado. Embora as cadeias de pensamento não sejam um registro de auditoria perfeito, elas são uma das principais ferramentas usadas para investigar comportamentos errôneos ou desalinhados; por isso, o fato de esses registros se tornarem parcialmente opacos pode afetar a capacidade dos pesquisadores de diagnosticar problemas. A expectativa de que a rastreabilidade seja preservada no Astra por enquanto mostra que o debate está mais concentrado em até que ponto o método será utilizado no futuro do que no modelo atual. O interesse de Anthropic e Google DeepMind pela mesma técnica indica que o tema deixou de ser apenas uma escolha de produto de uma única empresa e passou a estar relacionado aos padrões de segurança da inteligência artificial e à possível necessidade de regulamentação.
Contexto
OpenAI não é um nome novo no arquivo do FikirPilot: publicamos 21 notícias mencionando esse nome nos últimos 90 dias; a mais recente é de 6 de setembro de 2026.