従業員が人工知能ツールと共有する情報、これらのシステムがアクセスするデータ、そして生成されたコンテンツの信頼性が、金融、医療、行政、防衛の各分野で新たなセキュリティー問題を生み出している。アゼルバイジャン生まれの起業家Yagub Rahimovが米国で2021年に設立したPolygraf AIは、組織と人工知能ツールの間にセキュリティー層を構築している。AI Behavioral Control Planeは、機密データの特定、セキュリティールールの適用、機密情報の共有、人工知能を利用した詐欺、生成コンテンツの検出を目指す製品だ。同社の小規模言語モデルは、専用データセンターやインターネットから隔離されたシステム上で稼働できる。Content Source Detection技術は、人間が作成した文書と人工知能が生成した文書、または後から改変された文書を識別することに重点を置いており、その特許は2026年4月に米国特許商標庁によって承認された。同社はモデル開発ではなく、信頼できないコンテンツの検出から、人工知能のセキュリティー、データプライバシー、コンテンツ検証へと軸足を移した。
なぜ重要なのか
このアプローチは、機密データを扱う組織で従業員が利用する人工知能ツールを個別に監視するのではなく、中央のレイヤーでセキュリティールールを適用する必要性に対応している。ソリューションを専用データセンターやインターネットから隔離された環境で稼働させられることは、データの外部システムへの転送が制限されている金融、医療、行政、防衛の組織に直接関わる。同社がモデル開発からセキュリティー、プライバシー、コンテンツ検証へと方向転換したことは、人工知能が単なる生成能力だけでなく、組織上のリスクや出力の出所と併せて捉えられていることを示している。ただし、本文は検出精度、誤判定率、または組織での導入時の性能に関するデータを示していないため、実際の利用環境における技術の有効性は明らかな疑問として残っている。