L’esperto di informatica Osman Demircan ha dichiarato che gli assistenti basati sull’intelligenza artificiale sono in grado di svolgere attività come confrontare prodotti, monitorare i prezzi ed effettuare acquisti su istruzione. Citando come esempio l’assistente “Alexa for Shopping” di Amazon, Demircan ha affermato che i sistemi possono essere indirizzati erroneamente tramite attacchi di “prompt injection” e che le informazioni degli utenti possono essere trasferite a luoghi indesiderati. Demircan ha raccomandato agli utenti di verificare, prima del pagamento, il prodotto, il venditore, l’importo totale, l’indirizzo di consegna e le condizioni dell’abbonamento.
Perché è importante
Il fatto che gli assistenti basati sull’intelligenza artificiale possano, nel processo di acquisto, non limitarsi a proporre opzioni ma anche eseguire operazioni su istruzione porta in primo piano le domande su quali passi verranno compiuti per conto dell’utente e su come questa facoltà debba essere limitata. La possibilità di una prompt injection pone il rischio che l’indirizzamento dell’assistente non si limiti alla scelta del prodotto sbagliato, ma comporti anche il trasferimento delle informazioni degli utenti a luoghi indesiderati. Per questo motivo, la questione è importante non solo per i consumatori che utilizzano questi sistemi, ma anche per i servizi che gestiscono i processi di pagamento e di sicurezza dei dati personali. Le raccomandazioni degli esperti richiedono che, negli acquisti sempre più automatizzati, la responsabilità della decisione e del controllo finali resti all’utente; tuttavia, resta aperta la questione di quali metodi tecnici gli assistenti utilizzeranno per supportare questi controlli e di come verranno prevenuti gli indirizzamenti errati.