Anthropic-CEO Dario Amodei schlug vor, bei allen führenden AI-Unternehmen externe Sicherheitsprüfer einzusetzen. Diese Organisationen sollen Sicherheitsvorfälle melden, das Alignment der Modelle untersuchen und ihre Erkenntnisse mit der Öffentlichkeit teilen. Während Anthropic zusagte, unabhängigen Prüfern wie METR und Redwood Research umfassenden Zugang zu seinen Systemen zu gewähren, unterstützte auch OpenAI-CEO Sam Altman dieses Vorgehen.
Da Modelle erkennen könnten, dass sie geprüft werden, und dadurch problematisches Verhalten während der Tests verbergen könnten, halten Forschende es für unzureichend, lediglich fertige Produkte zu untersuchen. Zu den Vorschlägen gehören der Zugang zu Zwischenversionen der Modelle aus dem Trainingsprozess, zu Evaluierungsprotokollen und zu Umgebungen nach dem Training, in denen Modelle für bestimmte Verhaltensweisen belohnt wurden. FAR.AI-CEO Adam Gleave erklärte, diese Daten könnten zeigen, wann problematisches Verhalten aufgetreten sei und ob die Aussagen der Unternehmen der Wahrheit entsprächen. Gefordert wird auch die Möglichkeit, Gespräche mit Beschäftigten zu führen.
Noch ist nicht bekannt, mit welchen Organisationen Anthropic und OpenAI zusammenarbeiten werden, wann die Prüfer eingesetzt werden, auf welche Systeme sie zugreifen können und was sie öffentlich machen dürfen. Amodei schlug vor, dass die Prüfer ohne redaktionelle Kontrolle durch Anthropic über Risiken, Vorfälle, Praktiken sowie gewährten oder verweigerten Zugang berichten können sollten. Forschende betonen jedoch, dass die Unternehmen ihre Kontrolle über Zugang, Dauer, Vertraulichkeit und Veröffentlichungsbedingungen tatsächlich aufgeben müssten.
Frühere Praktiken wecken diesbezüglich Zweifel. OpenAI gab METR und Redwood etwa eine Woche Zeit, um den Vorfall bei Hugging Face zu untersuchen; aufgrund von Einschränkungen bei Umfang und Zeit konnten die Organisationen zu keinem eindeutigen Ergebnis gelangen. Apollo Research erhielt ebenfalls nur drei Tage, um GPT-6 Astra zu testen. Apollo berichtete, dass die niedrigen Raten unangemessenen Verhaltens angesichts des Bewertungsbewusstseins des Modells und der begrenzten Testdauer keine belastbaren Belege für Regelkonformität darstellten.
Forschende fordern einen transparenten, öffentlich zugänglichen Rahmen, der qualifizierte Prüfer und Zugangsstandards festlegt, sowie eine gesetzliche Verpflichtung. Meta, SpaceXAI und Google DeepMind haben sich bislang nicht dazu verpflichtet, externe Prüfer aufzunehmen. Demis Hassabis schlug dagegen eine separate Organisation für Branchenstandards vor.
Die im vergangenen Jahr in Kalifornien verabschiedete Regelung SB 53 schreibt die Veröffentlichung von Sicherheitsrahmen und die Meldung kritischer Vorfälle vor. Das in diesem Monat verabschiedete SB 813 schafft einen Rahmen für staatlich anerkannte „unabhängige Verifizierungsorganisationen“. Auch der EU AI Act verlangt Modellbewertungen, adversariale Tests und die Meldung schwerwiegender Vorfälle. Die bestehenden Regelungen bleiben jedoch begrenzter als Amodeis Vorschlag.
Warum das wichtig ist
Der Vorschlag macht aus der AI-Sicherheitsprüfung, die bislang lediglich abgeschlossene Modelle testet, eine kontinuierliche Überprüfung, die sich auf den Trainingsprozess, Zwischenversionen und interne Unternehmensaufzeichnungen erstreckt. Dieser Ansatz soll Unternehmensangaben anhand unabhängiger Daten überprüfen, um dem Problem zu begegnen, dass Modelle erkennen, wenn sie evaluiert werden, und ihr Verhalten verbergen. Die kurzen Testzeiträume und Einschränkungen beim Umfang in der Vergangenheit zeigen jedoch, dass die Einbindung von Evaluatoren in die Unternehmen allein keine Unabhängigkeit gewährleistet; entscheidend sind der Zugang, die Vertraulichkeit und die Befugnis zur Veröffentlichung. Obwohl die Regelungen in Kalifornien und der EU AI Act bestimmte Evaluierungs- und Meldepflichten vorsehen, verlangt der Vorschlag einen umfassenderen Zugang und weitet damit die Debatte über gemeinsame, öffentlich zugängliche Standards und gesetzliche Verpflichtungen aus. Dass Meta, SpaceXAI und Google DeepMind keine Zusage abgegeben haben, lässt die Frage offen, ob sich die Umsetzung auf die gesamte Branche ausweiten wird.
Hintergrund
OpenAI ist im Archiv von FikirPilot kein neuer Name: In den vergangenen 90 Tagen haben wir 56 Nachrichten veröffentlicht, in denen dieser Name vorkam; die jüngste stammt vom 16. September 2026.