Matt Lenhard schrieb, dass Betrüger den Zugang zu fortschrittlichen KI-Modellen für ein Zehntel des Marktpreises verkaufen. Die Methode beruht darauf, Token kostenlos oder unter dem Selbstkostenpreis zu beschaffen und sie über eine Relay-API zu vermarkten.
Die Betrüger verbrauchen die kostenlosen Guthaben neuer Konten, verwenden ungültige Zahlungsmethoden oder lassen nach intensiver Nutzung mit temporären Karten Zahlungen zurückbuchen. Zudem analysieren sie KI-gestützte Verbrauchersoftware mittels Reverse Engineering und missbrauchen deren Backends; auch schlecht programmierte Support-Chatbots nehmen sie ins Visier.
Lenhard zufolge lässt sich dieser Missbrauch eindämmen, indem zusätzliche Hürden bei Transaktionen die Kosten für die Betrüger erhöhen. Je schwieriger dieses auf der kostenlosen Beschaffung von Token basierende Modell wird, desto eher dürften sich die Betrüger leichteren Zielen zuwenden.
Warum das wichtig ist
Diese Methode zeigt, dass sich die Differenz zwischen dem sichtbaren Preis für den Zugang zu KI-Modellen und den tatsächlichen Kosten dieses Zugangs für den Anbieter missbrauchen lässt. Da kostenlose Guthaben, Zahlungssysteme und die Backends von Verbrauchersoftware in derselben Kette genutzt werden können, ist das Problem nicht auf die Sicherheit eines einzigen Kontotyps beschränkt; vielmehr müssen Modellanbieter verschiedene Zugangskanäle gemeinsam überwachen. Zusätzliche Verifizierungs- und Transaktionsschritte könnten die Kosten des Betrugs erhöhen, doch inwieweit diese Schritte legitimen Nutzern den Zugang erschweren würden, bleibt im Text offen. Daher steht in der Debatte nicht nur der Verkauf günstiger Token im Mittelpunkt, sondern auch das Gleichgewicht zwischen einfachem Zugang und der Verhinderung von Missbrauch.