Abliteration.ai hat einen kommerziellen Dienst entwickelt, der die Sicherheitsvorkehrungen entfernt, die Open-Weight-KI-Modelle dazu bringen, schädliche Anfragen abzulehnen, und diese Modelle anschließend über einen Webbrowser und eine API anbietet. Das Ende vergangenen Jahres gegründete und im März offiziell als Unternehmen eingetragene Startup hostet modifizierte Modelle, darunter auch das neu veröffentlichte Modell GLM-5.3 von Z.ai. Das Unternehmen erklärt, sein Ziel sei es, „offensive Cybersicherheit, Red-Team- und Agententests“ zu ermöglichen, die von anderen Modellen abgelehnt würden.
Das Entfernen von Sicherheitsvorkehrungen aus Modellen wird in der Open-Source-Community seit Langem praktiziert; auf Hugging Face gibt es Tausende auf diese Weise modifizierte Modelle. Abliteration.ai erleichtert den Zugang, indem es die Notwendigkeit beseitigt, dass Nutzer die Modelle herunterladen und die nötige Rechenleistung für deren Betrieb bereitstellen müssen. TechCrunch berichtete, dass die mit einem kostenlosen Konto zugängliche Version von GLM-5.3 ein Python-Programm zum Stehlen gespeicherter Chrome-Passwörter sowie detaillierte Anweisungen zur Zucht eines gefährlichen menschlichen Krankheitserregers zu Hause lieferte.
Mitgründer Devon sagte, das Unternehmen habe Vereinbarungen mit großen Cloud-Anbietern und die Kosten würden durch Einnahmen von Kunden gedeckt. Abliteration.ai hat bislang kein Risikokapital aufgenommen und führt Gespräche mit Investoren. Zu den Kunden gehören Red-Team-Startups in der Frühphase mit Sitz im U.K. und in Europa, die Cybersicherheitsdienste für Banken, Fluggesellschaften und Betreiber kritischer Infrastrukturen anbieten.
Andrew Yoon, Forschungsleiter bei CivAI, sagte, dass Modelle, deren Sicherheitsvorkehrungen entfernt wurden, in die Lage versetzt würden, auf jede Anfrage einzugehen, und in naher Zukunft mit dem Ziel eingesetzt werden könnten, Schaden anzurichten. Yoon schlug vor, dass Regierungen Cloud-Anbieter dazu verpflichten, Klassifikatoren einzusetzen, die schädliche Cyberaktivitäten und Arbeiten an biologischen Waffen erkennen, und dass Unternehmen, die Zugang zu fortgeschrittenen GPU mieten, die Identität ihrer Kunden überprüfen.
Abliteration.ai bietet Kunden eine Moderationsebene, in der sie eigene Sicherheitsregeln hinzufügen können. Die Plattform weist einige Einschränkungen auf; im Test von TechCrunch gab das Modell keine Suizidanweisungen aus. Devon erklärte, dass an zusätzlichen Maßnahmen zur Verhinderung von Gewalt gearbeitet werde. Abgesehen von der Speicherung der Zahlungskarte führt das Unternehmen kein KYC durch.
Die Bedeutung der Methode für die Verteidigung ist in der Branche umstritten. Ahmed Aly, CEO von Fabraix, sagte, dass das Entfernen von Sicherheitsvorkehrungen die Kenntnisse und Fähigkeiten des Modells verringern könne; sein Unternehmen nutze stattdessen feinabgestimmte offene Modelle. Alessio Lomuscio von Safe Intelligence erklärte, dass die Methode bei Stresstests nützlich sein könne, während David Slater, Gründer von Armadin, sagte, dass diese Modelle bislang nicht in den Prozessen seines Unternehmens eingesetzt würden, die offene Forschung jedoch dabei helfe, die Risiken zu verstehen.
Warum das wichtig ist
Dieser Dienst macht eine Anwendung, die zuvor auf technisch versierte Personen beschränkt war, einer breiten Nutzergruppe zugänglich, indem er die Hürden für Download, Installation und Rechenleistung reduziert, die für den Zugang zu Modellen mit entfernten Sicherheitsgrenzen erforderlich sind. Dadurch erweitern sich zwar die Testmöglichkeiten von Red-Team-Teams, die für Banken, Fluggesellschaften und Betreiber kritischer Infrastrukturen arbeiten, zugleich steigt jedoch das Risiko, dass dieselben Werkzeuge für Cyberangriffe und biologische Schäden eingesetzt werden. Dass abgesehen von der Zahlungskarte keine Identitätsprüfung erfolgt, wirft die Frage auf, wie die Verantwortung für die Verhinderung schädlicher Nutzung zwischen Plattform, Kunden und Cloud-Anbietern aufgeteilt werden soll. Zudem zeigt der fehlende Konsens innerhalb der Branche über den tatsächlichen Beitrag der Methode zu Verteidigungstests, dass der Nutzen des erweiterten Zugangs und die dadurch entstehenden Risiken bislang noch nicht eindeutig gemessen werden können.