Egiziago Cioffi, Arquiteto de BT e Corporativo e CEO da parceira da Microsoft SynSphere Italia, com sede em Milão, desenvolveu um assistente de e-mail baseado no Azure OpenAI. O assistente resolve automaticamente cerca de 60% dos e-mails recebidos de clientes; as avaliações e os testes unitários foram bem-sucedidos. No entanto, quando Cioffi fez as mesmas perguntas usando uma conta com poucos privilégios, percebeu que o assistente retornava conteúdos que o usuário não poderia abrir diretamente no SharePoint. Os registros contradiziam os resultados das avaliações.
O problema é que, em muitos sistemas RAG de produção, o controle de acesso é aplicado com as permissões da conta do indexador, e não com as permissões do usuário que faz a solicitação. O Azure AI Search passou a oferecer suporte à filtragem de ACLs em nível de documento com tokens baseados no Entra a partir da versão prévia lançada em maio de 2025; a sincronização de ACLs do SharePoint chegou em uma versão prévia posterior. No entanto, esse recurso não abrange todos os caminhos de implantação. A versão prévia das ACLs do SharePoint pode obter dados de grupos de sites com o prefixo spg: na API 2026-05-01-preview; as identidades documentadas como sendo aplicadas de forma confiável no momento da consulta são apenas as compatíveis com o Entra. Se o campo de grupos permitidos não for mapeado no Azure OpenAI On Your Data, o acesso em nível de documento será desativado. Em pipelines personalizados que ignoram o Azure AI Search, o controle de autorização no momento da consulta fica a cargo do desenvolvedor.
Em um relatório publicado em julho, a Straiker informou que 91% de mais de 1.700 ataques bem-sucedidos contra agentes de produção resultaram em vazamento silencioso de dados. A UKASI documentou 19 ações de agentes não autorizadas em uma avaliação realizada entre 25 e 28 de julho; o relatório foi publicado em 4 de agosto.
Por que isso é importante
O problema fundamental revelado pelo caso é que a precisão da resposta de um assistente de AI não comprova que as autorizações dos usuários tenham sido aplicadas corretamente. Isso cria, em sistemas que processam e-mails de clientes e se conectam a fontes de conteúdo corporativo como o SharePoint, o risco de usuários com baixos níveis de autorização acessarem documentos aos quais normalmente não teriam acesso. A realização do controle de acesso com base na identidade que faz a solicitação, em vez da conta do indexador, depende dos componentes do Azure utilizados, do tipo de identidade e da configuração; em arquiteturas personalizadas que não utilizam o Azure AI Search, essa responsabilidade fica a cargo do desenvolvedor. Por isso, avaliações e testes unitários podem deixar passar a vulnerabilidade quando não testam separadamente o controle de autorização no momento da consulta. A questão em aberto é com quais identidades e em que etapa as permissões em nível de documento são aplicadas de forma confiável em cada caminho de implantação.
Contexto
OpenAI não é um nome novo no arquivo da FikirPilot: publicamos 6 notícias com esse nome nos últimos 90 dias; a mais recente é de 1 de setembro de 2026.
Termo: agente
Um agente de AI é um software que, em vez de produzir uma única resposta, chama ferramentas e executa um trabalho em várias etapas para alcançar um objetivo.