Les informations que les employés partagent avec des outils d’intelligence artificielle, les données auxquelles ces systèmes accèdent et la fiabilité des contenus qu’ils produisent créent de nouveaux problèmes de sécurité dans les secteurs de la finance, de la santé, des services publics et de la défense. L’entrepreneur d’origine azérie Yagub Rahimov a fondé Polygraf AI aux États-Unis en 2021. L’entreprise développe une couche de sécurité entre les organisations et les outils d’intelligence artificielle. Le produit AI Behavioral Control Plane vise à identifier les données sensibles, à appliquer les règles de sécurité et à détecter le partage d’informations confidentielles, les fraudes liées à l’intelligence artificielle ainsi que les contenus générés. Les petits modèles de langage de l’entreprise peuvent fonctionner dans des centres de données privés ou dans des systèmes isolés d’Internet. La technologie Content Source Detection se concentre sur la distinction entre les documents produits par des humains, générés par l’intelligence artificielle ou modifiés ultérieurement ; son brevet a été approuvé par l’Office américain des brevets et des marques en avril 2026. Au lieu de développer des modèles, l’entreprise s’est détournée de la détection des contenus non fiables pour se tourner vers la sécurité de l’intelligence artificielle, la confidentialité des données et la vérification des contenus.
Pourquoi est-ce important ?
Cette approche répond au besoin d’appliquer les règles de sécurité à un niveau central, plutôt que de contrôler séparément les outils d’intelligence artificielle utilisés par les employés des organisations qui traitent des données sensibles. Le fait que les solutions puissent fonctionner dans des centres de données privés et dans des environnements isolés d’Internet concerne directement les établissements financiers, de santé, publics et de défense qui limitent le transfert des données vers des systèmes externes. Le fait que l’entreprise soit passée du développement de modèles à la sécurité, à la confidentialité et à la vérification des contenus montre que l’intelligence artificielle est considérée non seulement sous l’angle de sa capacité de production, mais aussi en lien avec les risques institutionnels et la source des résultats. Toutefois, le texte ne fournit aucune donnée sur la précision de la détection, le taux de faux résultats ou les performances dans les applications institutionnelles ; l’efficacité de la technologie dans des conditions d’utilisation réelles reste donc une question ouverte.