Der IT-Experte Osman Demircan erklärte, dass KI-Assistenten Vorgänge wie den Vergleich von Produkten, die Überwachung von Preisen und den Kauf auf Anweisung durchführen können. Als Beispiel nannte Demircan den Assistenten „Alexa for Shopping“ von Amazon und sagte, dass die Systeme durch „Prompt-Injection“-Angriffe fehlgeleitet werden könnten und Nutzerinformationen an unerwünschte Stellen übermittelt werden könnten. Demircan empfahl, dass Nutzer vor der Zahlung das Produkt, den Verkäufer, den Gesamtbetrag, die Lieferadresse und die Abonnementbedingungen überprüfen.
Warum wichtig
Dass KI-Assistenten im Einkaufsprozess nicht nur Optionen anbieten, sondern auf Anweisung auch Vorgänge durchführen können, rückt die Fragen in den Vordergrund, welche Schritte im Namen der Nutzer unternommen werden und wie diese Befugnis begrenzt werden soll. Die Möglichkeit einer Prompt Injection wirft das Risiko auf, dass die Fehlleitung des Assistenten nicht auf die Auswahl des falschen Produkts beschränkt bleibt, sondern auch zur Übermittlung von Nutzerinformationen an unerwünschte Stellen führen kann. Daher ist das Thema nicht nur für Verbraucher, die diese Systeme nutzen, sondern auch für Dienste wichtig, die Zahlungs- und Prozesse zur Sicherheit personenbezogener Daten verwalten. Die Empfehlungen des Experten machen deutlich, dass die Verantwortung für die endgültige Entscheidung und Kontrolle beim automatisierten Einkauf beim Nutzer bleiben muss; offen bleibt jedoch die Frage, mit welchen technischen Methoden die Assistenten diese Kontrollen unterstützen und wie Fehlleitungen verhindert werden sollen.