El experto en informática Osman Demircan señaló que los asistentes de inteligencia artificial pueden realizar operaciones como comparar productos, hacer un seguimiento de los precios y comprar siguiendo instrucciones. Demircan, que puso como ejemplo el asistente “Alexa for Shopping” de Amazon, afirmó que los sistemas pueden ser desviados mediante ataques de “prompt injection” y que la información de los usuarios puede transferirse a lugares no deseados. Demircan recomendó que, antes del pago, el usuario compruebe el producto, el vendedor, el importe total, la dirección de entrega y las condiciones de la suscripción.
Por qué es importante
El hecho de que los asistentes de inteligencia artificial puedan no solo ofrecer opciones durante el proceso de compra, sino también realizar operaciones siguiendo instrucciones, plantea en primer plano las preguntas sobre qué pasos se darán en nombre del usuario y cómo se limitará esta capacidad. La posibilidad de un ataque de prompt injection pone sobre la mesa el riesgo de que la desviación del asistente no se limite únicamente a la elección de un producto incorrecto, sino que también implique la transferencia de información del usuario a lugares no deseados. Por ello, el tema es importante tanto para los consumidores que utilizan estos sistemas como para los servicios que gestionan los procesos de pago y de seguridad de los datos personales. Las recomendaciones de los expertos exigen que la responsabilidad de la decisión y el control finales en las compras automatizadas permanezcan en el usuario; sin embargo, sigue siendo una cuestión abierta mediante qué métodos técnicos los asistentes respaldarán estos controles y cómo se evitarán las desviaciones erróneas.