Die Berichten zufolge von OpenAI in seinem neuen Astra-Modell eingesetzte Technik des „recurrent depth“ hat bei Experten für KI-Sicherheit Besorgnis ausgelöst. Laut einem Bericht von The Information ermöglicht die auch als „opaque recurrence“ bezeichnete Methode dem Modell, sich über die sequenzielle Denkweise der meisten Reasoning-Modelle hinwegzusetzen und dieselbe Anfrage innerhalb einer Schleife mehrfach zu verarbeiten. Dieser Ansatz könnte es erschweren, die Gedankenkette des Modells nachzuverfolgen.
Buck Shlegeris, CEO von Redwood, erklärte, er sei „äußerst besorgt“ darüber, dass Astra diese Technik verwendet. Zvi Mowshowitz vertrat derweil die Ansicht, dass Gesetze erforderlich sein könnten, um einen „Wettlauf nach unten“ zwischen KI-Unternehmen zu verhindern. Experten zufolge sind herkömmliche Aufzeichnungen von Gedankengängen ein wichtiges Instrument zur Untersuchung fehlerhaften oder nicht konformen Verhaltens, auch wenn sie die Schritte, die ein Modell bei der Lösung eines Problems durchläuft, nicht vollkommen lückenlos darstellen. Diese Aufzeichnungen wurden auch bei der Untersuchung der jüngsten außer Kontrolle geratenen Agentenaktivitäten von OpenAI verwendet.
Es wurde berichtet, dass der Einsatz der Methode in Astra vorerst begrenzt sei und die Gedankenkette des Modells voraussichtlich weiterhin lesbar bleiben werde. OpenAI wies Kommentare zurück, wonach das Modell zu „neuralese“ übergehen werde, und bekräftigte sein Bekenntnis zur Nachverfolgbarkeit von Gedankengängen. Chef-Wissenschaftler Jakub Pachocki erklärte, die Bewahrung dieser Nachverfolgbarkeit seit den ersten Reasoning-Modellen sei eines der grundlegenden Ziele des Forschungsprogramms.
Dennoch wird darauf hingewiesen, dass die Nachverfolgbarkeit bei einer weiteren Verbreitung der Methode noch stärker abnehmen könnte. The Information berichtete, dass auch Anthropic und Google DeepMind Gespräche über die Technik geführt hätten. Ryan Greenblatt, Chef-Wissenschaftler von Redwood Research, erklärte außerdem, er sei besorgt, dass opakes Reasoning zunehmen und die Gedanken des Modells vollständig oder weitgehend in einen verborgenen Raum verlagern könnte.
Warum das wichtig ist
Die Verbreitung dieses Ansatzes könnte die Sicherheitsprozesse erschweren, die überprüfen, warum KI-Systeme zu einem bestimmten Ergebnis gelangt sind. Auch wenn Gedankengänge keine lückenlose Prüfaufzeichnung darstellen, gehören sie zu den wichtigsten Instrumenten zur Untersuchung fehlerhaften oder nicht konformen Verhaltens. Eine teilweise Opazität dieser Aufzeichnungen könnte daher die Fähigkeit von Forschern beeinträchtigen, Probleme zu diagnostizieren. Dass vorerst erwartet wird, die Nachverfolgbarkeit bei Astra zu bewahren, zeigt, dass sich die Debatte weniger auf das aktuelle Modell als auf die Frage konzentriert, in welchem Umfang die Methode künftig eingesetzt werden wird. Dass Anthropic und Google DeepMind ebenfalls Interesse an derselben Technik zeigen, deutet darauf hin, dass das Thema über die Produktentscheidung eines einzelnen Unternehmens hinausgeht und mit Standards für die Sicherheit von KI sowie einem möglichen Regulierungsbedarf in Verbindung steht.
Hintergrund
OpenAI ist im FikirPilot-Archiv kein neuer Name: In den letzten 90 Tagen haben wir 21 Nachrichten veröffentlicht, in denen dieser Name vorkommt; die jüngste stammt vom 6. September 2026.