A Microsoft publicou o novo documento “AI code of conduct”, que tem como objetivo manter os modelos de AI afastados de comportamentos perigosos. Diferentemente do apelo por restrições feito pelo CEO da Anthropic, Dario Amodei, o documento se concentra nos valores e nas linhas vermelhas que orientam o treinamento dos modelos dentro da Microsoft AI.
O documento prevê que, na próxima década, os sistemas de AI superinteligentes superarão o desempenho humano na maioria das tarefas e afirma que controlar esse poder será um dos maiores desafios da humanidade. Embora estabeleça princípios gerais para os modelos da Microsoft, como apoiar as pessoas e promover o bem-estar humano, o texto afirma que cada modelo estará sujeito a um código de conduta que prevalece sobre as preferências dos usuários ou sobre tarefas específicas.
As regras proíbem ataques cibernéticos, armas nucleares e a produção de deepfakes no âmbito das “restrições absolutas”. Os modelos não devem usar mecanismos adaptáveis, enganosos, de autopotencialização ou baseados em colaboração secreta para escapar da supervisão humana; eles precisam poder ser orientados, modificados e desligados por pessoas ou sistemas autorizados.
O anúncio, datado de 14 de setembro de 2026, foi feito em um período de crescente interesse pela segurança de AI e de ocorrência de incidentes envolvendo “rogue-agent”. O CEO da Microsoft, Satya Nadella, declarou que, junto com OpenAI, Anthropic e xAI, apoia o avanço cuidadoso dos limites e as pesquisas sobre “embedded evaluators”.
Por que isso é importante
A importância do documento reside em relacionar a segurança de AI não apenas aos alertas aos usuários, mas também ao treinamento dos modelos e aos limites de comportamento. A inclusão de áreas como ataques cibernéticos, armas nucleares e produção de deepfake em restrições absolutas torna mais concreto quais finalidades de uso dos modelos são consideradas inaceitáveis. Já as exigências de não escapar da supervisão, poder ser modificado e ser desligado definem a segurança mais pela preservação do controle humano do que pelas capacidades do modelo. No entanto, como essas regras serão aplicadas em diferentes modelos, como as violações serão detectadas e em que medida as pesquisas sobre embedded evaluators produzirão resultados confiáveis permanecem questões em aberto. Esse quadro também torna visível a possível tensão entre as necessidades dos usuários e os limites de alto nível impostos ao comportamento dos modelos.
Contexto
Microsoft não é um nome novo no arquivo do FikirPilot: nos últimos 90 dias, publicamos 10 notícias nas quais esse nome foi mencionado; a mais recente é de 14 de setembro de 2026.