Baseten hat über seinen Forschungsbereich Base Labs eine Partnerschaft und einen Standard angekündigt, um gemeinsam mit Hugging Face und Goodfire AI eine Infrastruktur zur Sicherheitsbewertung und Überwachung offen gewichteter Modelle zu entwickeln. Die am 17. September 2026 veröffentlichte Mitteilung zielt darauf ab, Sicherheitsmaßnahmen von Anfang an in die Prozesse der Modellausbildung und -bereitstellung zu integrieren, anstatt sie nachträglich hinzuzufügen.
Offen gewichtete Modelle stehen wegen einer als „Abliteration“ bezeichneten Technik in der Kritik, mit der sich Sicherheitsmaßnahmen entfernen lassen. Auf Hugging Face sind derzeit mehr als 6.000 Modelle gelistet, bei denen Abliteration angewendet wurde. Base Labs wird Methoden für die Ausbildung und Überwachung offener Modelle entwickeln und veröffentlichen.
Wie die Partnerschaft technisch funktionieren soll, wurde nicht erklärt. Goodfire AI, das untersucht, wie Modellentscheidungen zustande kommen, tritt als Unternehmen hervor, das eine Rolle bei dem Ziel übernehmen könnte, Sicherheit in die Modelle zu integrieren. Baseten erhielt im Juni als Anbieter von KI-Inferenzdiensten eine Series-F-Finanzierung in Höhe von 1,5 Milliarden US-Dollar und steigerte seine Bewertung damit auf 13 Milliarden US-Dollar. Goodfire AI nahm Anfang dieses Jahres unter der Führung von B Capital 150 Millionen US-Dollar in einer Series-B-Finanzierungsrunde ein.
Baseten rief das Entwickler-Ökosystem dazu auf, zur Entwicklung des Rahmens beizutragen. Das Unternehmen erklärte, es wolle ein Ökosystem schaffen, in dem offene Modelle sicher und für alle zugänglich sind.
Warum das wichtig ist
Die Möglichkeit, Sicherheitsmaßnahmen bei Modellen mit offenen Gewichten zu entfernen, zeigt, dass nach der Veröffentlichung eines Modells ergriffene Maßnahmen allein möglicherweise nicht ausreichen. Daher gewinnt die Frage an Bedeutung, in welcher Phase und anhand welcher Kriterien Sicherheitsbewertungen für Entwickler, Institutionen, die das Modell nutzen, und Nutzer, die auf das Ökosystem offener Modelle zugreifen, durchgeführt werden sollen. Der angekündigte Ansatz zielt darauf ab, Sicherheit zu einem Bestandteil des Modellentwicklungsprozesses zu machen, ohne dafür auf Zugänglichkeit zu verzichten; wie dies auf die Überwachung bestehender Modelle angewendet werden soll, ist jedoch noch nicht klar. Da die technische Funktionsweise der Partnerschaft nicht erläutert wurde, bleibt offen, wie die Standards Modelle mit angewandter Abliteration klassifizieren, wie sie Risiken messen und wie Beiträge von Entwicklern in den Prozess einbezogen werden sollen.
Hintergrund
Face ist im FikirPilot-Archiv kein neuer Name: In den vergangenen 90 Tagen haben wir 8 Nachrichten veröffentlicht, in denen dieser Name vorkam; die jüngste datiert vom 13. September 2026.
Begriff: offene Gewichte
Offene Gewichte bedeuten, dass die trainierten Parameter eines KI-Modells heruntergeladen werden können; da die Trainingsdaten und der Code möglicherweise nicht offen zugänglich sind, ist der Begriff nicht gleichbedeutend mit Open Source.