Alega-se que o modelo Astra, da OpenAI, ainda não disponibilizado para uso, utiliza, além de recursos avançados de cibersegurança, um método chamado “recurrent depth” ou “looped transformer”. Nessa técnica, as informações circulam várias vezes entre as camadas internas do modelo, permitindo realizar mais computações; no entanto, uma parte maior do raciocínio pode permanecer fora da cadeia de pensamento expressa em linguagem natural.
Pesquisadores de segurança em inteligência artificial afirmam que a abordagem, também chamada de “opaque recurrence”, pode dificultar a supervisão dos modelos. Ryan Greenblatt disse que os vestígios visíveis do pensamento podem diminuir e que a corrida por desempenho pode levar as empresas a arquiteturas menos observáveis. Buck Shlegeris e Zvi Mowshowitz também expressaram suas preocupações, enquanto Mowshowitz sugeriu que regulamentações podem ser necessárias no futuro.
A OpenAI mantém limitado o uso da técnica no Astra; afirma-se que uma parte importante da cadeia de pensamento permanecerá legível. Jakub Pachocki declarou que o acompanhamento do chain-of-thought foi mantido e é o objetivo principal. Apesar de Pachocki afirmar que a profundidade computacional do Astra está em uma faixa de aproximadamente duas vezes a do GPT-4, a OpenAI não confirmou nem negou o uso de looped transformer.
Por que isso é importante
A discussão sobre essa abordagem coloca em evidência a tensão entre o aumento da computação e a capacidade de supervisão nos modelos de inteligência artificial. À medida que cresce a parte do raciocínio que ocorre fora da cadeia de pensamento visível, pode se tornar mais difícil para os pesquisadores avaliar os erros do modelo, os problemas de segurança e seus processos de decisão. Embora se afirme que a OpenAI pretende preservar a cadeia de pensamento legível e limitar o uso do método, ainda não está claro se o looped transformer é utilizado no Astra. Essa incerteza levanta questões não apenas sobre a capacidade técnica do modelo, mas também sobre em que medida será possível realizar uma supervisão de segurança. As avaliações dos especialistas sobre a possibilidade de regulamentação deixam em aberto a questão de saber se o aumento de desempenho ocorrerá às custas de sistemas menos observáveis.
Contexto
A OpenAI não é um nome novo no arquivo do FikirPilot: nos últimos 90 dias, publicamos 12 notícias nas quais esse nome foi mencionado; a mais recente é de 3 de setembro de 2026.