情報技術専門家のOsman Demircan氏は、AIアシスタントが商品の比較、価格の追跡、指示に基づく購入などの処理を実行できると述べた。Amazonの「Alexa for Shopping」アシスタントを例に挙げたDemircan氏は、システムが「prompt injection」攻撃によって誤った方向に誘導され、ユーザー情報が意図しない場所に転送される可能性があると指摘した。Demircan氏は、支払いの前に、商品、販売者、合計金額、配送先住所、サブスクリプションの条件をユーザー自身が確認するよう勧めた。
なぜ重要なのか
AIアシスタントが買い物の過程で単に選択肢を提示するだけでなく、指示に基づいて処理を実行できることにより、ユーザーに代わってどのような手順が取られるのか、またこの権限をどのように制限するのかという問題が浮上している。Prompt injectionの可能性は、アシスタントが誤った商品を選ぶことにとどまらず、ユーザー情報が意図しない場所に転送されるリスクももたらす。したがって、この問題はこうしたシステムを利用する消費者だけでなく、決済や個人データのセキュリティーに関するプロセスを管理するサービスにとっても重要である。専門家の提言は、自動化が進む買い物において、最終的な判断と確認の責任をユーザーが担う必要性を示している。一方で、アシスタントがこうした確認をどのような技術的方法で支援するのか、また誤った誘導をどのように防ぐのかは、依然として明確な答えのない問題である。