Die Markteinführung von Astra, das voraussichtlich OpenAI’s leistungsfähigstes KI-Modell sein wird, wurde zur Stärkung der Sicherheitsprotokolle um mehrere Wochen verschoben. Kurz nach der Entscheidung über die Verzögerung berichtete The Information, dass das Modell seinen „Denkprozess“ im Vergleich zu anderen führenden KI-Systemen deutlich weniger offenlege. Dies weckte Bedenken, dass Astra dadurch schwieriger überwacht und gefährliches Verhalten schwerer erkannt werden könnte.
Viele fortschrittliche KI-Modelle nutzen heutzutage bei der Erstellung von Antworten den „chain of thought“-Ansatz, der die einzelnen Schritte ihrer Schlussfolgerungen sichtbar macht. Dadurch können Forscher die Pläne der Modelle, zu lügen oder Sicherheitsvorkehrungen zu umgehen, überwachen. Laut einem Bericht von The Information, der sich auf eine nicht namentlich genannte Quelle stützt, verwendet Astra eine stärker abgeschottete Technik namens „recurrent depth“ oder „looped transformer“, bei der Informationen zwischen den internen Schichten in einem Kreislauf verarbeitet werden. Diese Methode kann zwar die Leistung steigern, zugleich aber den Denkprozess des Modells weniger verständlich machen und dadurch die Erkennung von Bedrohungen erschweren.
Es wurde berichtet, dass OpenAI die Nutzung der Technik einschränkte und zusätzliche Maßnahmen ergriff, damit Forscher die Schlussfolgerungen überwachen können. Das Unternehmen erklärte, Astra mit „chain-of-thought monitoring“ auf den Markt bringen und nicht konforme Handlungen schnell erkennen und begrenzen zu wollen; die technische Infrastruktur des Modells bestätigte es jedoch nicht.
Ryan Greenblatt, Chefwissenschaftler von Redwood Research, sagte, eine stärker abgeschottete Architektur könnte im Hinblick auf „AI security/safety“ die bislang schlechteste Entwicklung sein. Greenblatt und andere Experten warnten, dass die zunehmende Hinwendung der Unternehmen zu immer undurchsichtigeren Systemen aus Wettbewerbsgründen bei der KI-Aufsicht einen „race to the bottom“ auslösen könnte.
OpenAI-Chefwissenschaftler Jakub Pachocki erklärte unterdessen, dass Astras interne Berechnungstiefe in einem Bereich von weniger als dem Doppelten von GPT-4 liege. Das Unternehmen bestätigte nicht, ob es einen looped transformer verwendet.
Warum das wichtig ist
Die Verschiebung von Astra wirkt sich nicht nur auf den Zeitplan für die Markteinführung aus, sondern auch auf die Debatte darüber, wie fortgeschrittene AI-Systeme überwacht werden sollen. Die Behauptung, das Modell nutze eine Architektur, die seine internen Abläufe weniger sichtbar mache, ist nicht bestätigt. Sie verstärkt jedoch die Bedenken von Sicherheitsforschern hinsichtlich der Fähigkeit, Versuche des Modells zu überwachen, zu lügen oder Sicherheitsvorkehrungen zu umgehen. Die Ankündigung von OpenAI, zusätzliche Überwachungs- und Begrenzungsmaßnahmen zu planen, beseitigt den Zielkonflikt zwischen Leistung und Überprüfbarkeit nicht. Die zentrale offene Frage ist, ob die Sicherheitsprotokolle des Unternehmens in einem opaken System ausreichen werden, um gefährliches Verhalten rechtzeitig zu erkennen.
Hintergrund
OpenAI ist im FikirPilot-Archiv kein neuer Name: In den vergangenen 90 Tagen haben wir 19 Nachrichten veröffentlicht, in denen dieser Name vorkam; die jüngste stammt vom 6. September 2026.