信息技术专家 Osman Demircan 表示，人工智能助手能够执行产品比较、价格追踪以及根据指令购买等操作。Demircan 以 Amazon 的“Alexa for Shopping”助手为例，称这些系统可能受到“prompt injection”攻击的误导，用户信息也可能被传输到不希望其到达的地方。Demircan 建议，用户在付款前核查产品、卖家、总价、配送地址以及订阅条款。
为何重要
人工智能助手在购物过程中不再只是提供选项，还能够根据指令执行操作，这使得应当代表用户采取哪些步骤，以及如何限制这项权限等问题更加突出。Prompt injection 的可能性表明，助手被误导的风险不仅限于选错产品，还包括用户信息被传输到不希望其到达的地方。因此，这一问题不仅关系到使用这些系统的消费者，也关系到负责支付和个人数据安全流程的服务。专家建议意味着，在购物自动化的过程中，最终决定和检查的责任应由用户承担；但助手将通过哪些技术手段支持这些检查，以及如何防止错误引导，仍是一个悬而未决的问题。