Pesquisadores do Google e do Google DeepMind fundaram o DeepMind Institute para ampliar o debate sobre a inteligência artificial geral (AGI). Entre os diretores do instituto estão o cofundador do DeepMind Shane Legg, o executivo do Google James Manyika e o presidente do Google DeepMind Demis Hassabis; Legg também atua como editor executivo. A instituição pretende apresentar diferentes perspectivas do Google, do Google DeepMind e da comunidade global de pesquisa.
A primeira coletânea reúne quatro artigos: políticas para gerir o impacto econômico da AGI, preservação da legibilidade do raciocínio dos modelos para os seres humanos, princípios de bem-estar humano e um quadro para avaliar modelos de inteligência artificial de ponta. Os pesquisadores de segurança do DeepMind Rohin Shah e Anca Dragan argumentam que a redução da transparência não é inevitável, apesar de novas arquiteturas que dificultam o monitoramento de modelos poderosos. Os pesquisadores sugerem que desenvolvedores e reguladores avaliem opções como limitar a “opaque serial depth” ou comprovar a rastreabilidade de sistemas menos transparentes.
Hassabis, por sua vez, propõe a criação, sob liderança dos EUA, de uma organização de padrões que avalie os modelos mais avançados. Inicialmente, os desenvolvedores submeterão voluntariamente seus modelos à análise até 30 dias antes de seu lançamento; se o sistema for eficaz, passar pela avaliação poderá se tornar uma condição para distribuição nos EUA. Com o tempo, a instituição desenvolverá testes secretos “held-out” para impedir que os laboratórios ajustem os modelos de acordo com os resultados. Quando necessário, também poderá ser considerada uma desaceleração coordenada dos desenvolvimentos de inteligência artificial de ponta. Os artigos mostram que o debate sobre segurança está passando de preocupações gerais para propostas concretas de fiscalização e desaceleração.
Por que é importante
O Instituto está tirando o debate sobre AGI da condição de uma questão exclusivamente relacionada à capacidade técnica e levando-o para um campo de políticas públicas abordado em conjunto com a gestão econômica, o bem-estar humano, a transparência e as condições de acesso ao mercado. Esse marco também coloca em pauta, para os desenvolvedores de modelos, não apenas a apresentação de declarações de segurança, mas também a explicação de como os sistemas são auditados e por quais avaliações passam. Para os reguladores, o centro do debate está nas condições em que as análises voluntárias se transformarão em regras vinculantes. As propostas de testes secretos e de desaceleração coordenada, por sua vez, deixam em aberto a questão de até que ponto a supervisão poderá ser conduzida de forma independente das medições e dos ajustes realizados pelos próprios laboratórios.
Contexto
O Google não é um nome novo no arquivo do FikirPilot: publicamos 43 notícias que mencionam esse nome nos últimos 90 dias; a mais recente é de 19 de setembro de 2026.