Bilişim Uzmanı Osman Demircan, yapay zekâ asistanlarının ürün karşılaştırma, fiyat takip etme ve talimatla satın alma gibi işlemleri yapabildiğini belirtti. Amazon’un “Alexa for Shopping” asistanını örnek gösteren Demircan, sistemlerin “prompt injection” saldırılarıyla yanlış yönlendirilebileceğini ve kullanıcı bilgilerinin istenmeyen yerlere aktarılabileceğini söyledi. Demircan, ödeme öncesinde ürün, satıcı, toplam bedel, teslimat adresi ve abonelik koşullarının kullanıcı tarafından kontrol edilmesini önerdi.
Neden önemli
Yapay zekâ asistanlarının alışveriş sürecinde yalnızca seçenek sunmakla kalmayıp talimatla işlem yapabilmesi, kullanıcı adına hangi adımların atılacağı ve bu yetkinin nasıl sınırlandırılacağı sorularını öne çıkarıyor. Prompt injection ihtimali, asistanın yönlendirilmesinin yalnızca yanlış ürün seçimiyle sınırlı kalmayıp kullanıcı bilgilerinin istenmeyen yerlere aktarılması riskini de gündeme getiriyor. Bu nedenle konu, bu sistemleri kullanan tüketicilerin yanı sıra ödeme ve kişisel veri güvenliği süreçlerini yöneten hizmetler açısından da önem taşıyor. Uzman önerileri, otomatikleşen alışverişte son karar ve kontrol sorumluluğunun kullanıcıda kalmasını gerektiriyor; ancak asistanların bu kontrolleri hangi teknik yöntemlerle destekleyeceği ve hatalı yönlendirmelerin nasıl önleneceği açık bir soru olarak duruyor.