Es wird behauptet, dass das von OpenAI noch nicht veröffentlichte Modell Astra neben fortgeschrittenen Cybersicherheitsfähigkeiten eine als „recurrent depth“ oder „looped transformer“ bezeichnete Methode nutzt. Bei dieser Technik werden Informationen mehrfach zwischen den internen Schichten des Modells zirkuliert, wodurch mehr Berechnungen durchgeführt werden können; ein größerer Teil des Schlussfolgerns kann jedoch außerhalb der in natürlicher Sprache formulierten Gedankenkette bleiben.
Forschende für die Sicherheit künstlicher Intelligenz erklären, dass der auch als „opaque recurrence“ bezeichnete Ansatz die Überwachung von Modellen erschweren könnte. Ryan Greenblatt sagte, dass sichtbare Denkspuren abnehmen könnten und der Leistungswettbewerb Unternehmen zu weniger beobachtbaren Architekturen drängen könnte. Auch Buck Shlegeris und Zvi Mowshowitz äußerten ihre Bedenken, während Mowshowitz erklärte, dass künftig eine Regulierung erforderlich sein könnte.
OpenAI hält den Einsatz der Technik in Astra begrenzt; es wird angegeben, dass ein wesentlicher Teil der Gedankenkette lesbar bleiben wird. Jakub Pachocki erklärte, dass die Nachverfolgung des Chain-of-Thought erhalten bleibe und das grundlegende Ziel sei. Obwohl Pachocki angab, dass die Berechnungstiefe von Astra ungefähr im zweifachen Bereich von GPT-4 liege, bestätigte oder dementierte OpenAI den Einsatz eines looped transformer nicht.
Warum das wichtig ist
Die Diskussion über diesen Ansatz rückt das Spannungsverhältnis zwischen zusätzlicher Rechenleistung und der Kontrollierbarkeit von KI-Modellen in den Vordergrund. Je größer der Teil des Schlussfolgerungsprozesses wird, der außerhalb der sichtbaren Gedankenkette stattfindet, desto schwieriger könnte es für Forschende werden, die Fehler, Sicherheitsprobleme und Entscheidungsprozesse des Modells zu bewerten. Obwohl angegeben wird, dass OpenAI darauf abzielt, die lesbare Gedankenkette zu erhalten und den Einsatz der Methode zu begrenzen, ist weiterhin unklar, ob in Astra ein looped transformer verwendet wird. Diese Ungewissheit wirft nicht nur Fragen zur technischen Leistungsfähigkeit des Modells auf, sondern auch dazu, in welchem Umfang eine Sicherheitsaufsicht möglich sein wird. Die Einschätzungen von Fachleuten zur Möglichkeit einer Regulierung lassen die Frage offen, ob die Leistungssteigerung auf Kosten weniger beobachtbarer Systeme erfolgt.
Hintergrund
OpenAI ist im FikirPilot-Archiv kein neuer Name: In den vergangenen 90 Tagen haben wir 12 Nachrichten veröffentlicht, in denen dieser Name vorkam; die jüngste stammt vom 3. September 2026.