员工通过人工智能工具分享的信息、这些系统所访问的数据以及生成内容的可靠性，正在金融、医疗、公共部门和国防等行业带来新的安全问题。出生于阿塞拜疆的企业家 Yagub Rahimov 于2021年在美国创立了 Polygraf AI，致力于在机构与人工智能工具之间构建安全层。AI Behavioral Control Plane 产品旨在识别敏感数据、执行安全规则，并检测机密信息共享、由人工智能引发的欺诈行为和生成内容。该公司的小型语言模型可以在专用数据中心或与互联网隔离的系统中运行。Content Source Detection 技术专注于区分由人类生成、由人工智能生成或经过后期修改的文件；其专利已于2026年4月获得美国专利商标局批准。该公司没有继续开发模型，而是从不可靠内容检测转向人工智能安全、数据隐私和内容验证。
为何重要
这种方法回应了这样一种需求：对于使用敏感数据的机构，与其分别监管员工使用的人工智能工具，不如在一个集中式层面实施安全规则。解决方案能够在专用数据中心和与互联网隔离的环境中运行，这直接关系到那些限制将数据传输至外部系统的金融、医疗、公共部门和国防机构。该公司从模型开发转向安全、隐私和内容验证，表明人工智能不应仅从生产能力出发加以考量，还应结合机构风险以及输出内容的来源进行评估。不过，由于文本没有提供有关检测准确率、错误结果比例或在机构应用中的表现数据，该技术在实际使用条件下的有效性仍是一个悬而未决的问题。