Matt Lenhardは、詐欺師が高度な人工知能モデルへのアクセスを市場価格の1割で販売していると記した。この手口は、トークンを無料または原価を下回る価格で入手し、relay APIを通じて販売するというものだ。
詐欺師は、新規アカウントの無料クレジットを使い切ったり、無効な支払い方法を利用したり、一時的なカードで大量に利用した後に支払いを取り消したりしている。また、人工知能機能を備えた消費者向けソフトウェアをリバースエンジニアリングしてバックエンドを悪用し、実装の脆弱なサポート用チャットボットも標的にしている。
Lenhardによると、こうした悪用を減らす方法は、取引に追加の手間を設け、詐欺師のコストを引き上げることだ。トークンを無料で入手することを前提としたこのモデルが難しくなるにつれ、詐欺師はより容易な標的へ移るとみられている。
なぜ重要なのか
この手口は、人工知能モデルへのアクセスで表示される価格と、そのアクセスにかかるプロバイダー側の実際のコストとの差が悪用され得ることを示している。無料クレジット、決済システム、消費者向けソフトウェアのバックエンドが同じ一連の手口で利用され得るため、問題は単一のアカウント種別のセキュリティーだけにとどまらず、モデルプロバイダーには複数のアクセス経路を横断的に監視することが求められる。追加の認証や取引手順は詐欺のコストを引き上げる可能性があるが、こうした手順が正規ユーザーのアクセスをどの程度難しくするかについて、本文では明確にされていない。このため、議論の焦点は安価なトークン販売だけでなく、アクセスの容易さと悪用防止の間のバランスにも置かれている。