As informações compartilhadas pelos funcionários com ferramentas de inteligência artificial, os dados acessados por esses sistemas e a confiabilidade dos conteúdos produzidos estão criando novos problemas de segurança nos setores financeiro, de saúde, público e de defesa. A Polygraf AI, fundada nos EUA em 2021 pelo empreendedor nascido no Azerbaijão Yagub Rahimov, desenvolve uma camada de segurança entre as instituições e as ferramentas de inteligência artificial. O produto AI Behavioral Control Plane tem como objetivo identificar dados sensíveis, aplicar regras de segurança e detectar o compartilhamento de informações confidenciais, fraudes originadas por inteligência artificial e conteúdos gerados. Os pequenos modelos de linguagem da empresa podem operar em centros de dados privados ou em sistemas sem conexão à internet. A tecnologia Content Source Detection concentra-se em distinguir documentos produzidos por humanos e por inteligência artificial ou modificados posteriormente; sua patente foi aprovada pelo Escritório de Patentes e Marcas dos EUA em abril de 2026. Em vez de desenvolver modelos, a empresa passou da detecção de conteúdos não confiáveis para a segurança de inteligência artificial, a privacidade de dados e a verificação de conteúdos.
Por que é importante
Essa abordagem responde à necessidade de aplicar regras de segurança em uma camada central, em vez de supervisionar separadamente as ferramentas de inteligência artificial utilizadas pelos funcionários de instituições que lidam com dados sensíveis. A possibilidade de as soluções operarem em centros de dados privados e em ambientes sem conexão à internet interessa diretamente a organizações financeiras, de saúde, públicas e de defesa, nas quais a transferência de dados para sistemas externos é limitada. A mudança da empresa, do desenvolvimento de modelos para a segurança, a privacidade e a verificação de conteúdos, mostra que a inteligência artificial está sendo tratada não apenas por sua capacidade de produção, mas também em conjunto com os riscos institucionais e a origem dos resultados. No entanto, como o texto não apresenta dados sobre a precisão da detecção, as taxas de falsos resultados ou o desempenho nas aplicações institucionais, a eficácia da tecnologia em condições reais de uso continua sendo uma questão em aberto.