OpenAI hat neue Details zu dem Modell Astra veröffentlicht, das das Unternehmen demnächst auf den Markt bringen will. Das Unternehmen erklärte, Astra sei das erste große Sprachmodell, das die „kritische Cybersicherheitsschwelle“ erfülle und ohne menschliche Anleitung unbekannte Sicherheitslücken in Computersystemen finden und ausnutzen könne. Der Zugang zu den fortschrittlichsten Cybersicherheitsfunktionen des Modells werde stärker eingeschränkt.
Nach Angaben von OpenAI erzielte Astra im ExploitBench-Test, der die Fähigkeit zur Ausnutzung bekannter Systemschwachstellen misst, die volle Punktzahl. In einem von den Ingenieuren des Unternehmens entwickelten modifizierten Test soll das Modell zwei Zero-Day-Schwachstellen entdeckt und ausgenutzt haben. Da es für die Behauptungen jedoch keine unabhängige Bestätigung durch Dritte gibt, lassen sich die Sicherheit und der Vorbereitungsstand des Modells nicht unabhängig bewerten. OpenAI erklärte, eine Vorschau mit einer Gruppe von Testern durchführen zu wollen, machte jedoch keine Angaben dazu, wer diese Personen sein und wie sie ausgewählt werden sollen. Unklar ist auch, ob das Modell gemeinsam mit der US-Regierung bewertet wurde.
Das Unternehmen erklärte, neue Sicherheitstechniken entwickelt zu haben, um Missbrauch und Jailbreak-Versuche zu verhindern, die Antworten von Konten mit hohem Risiko einzuschränken und Astra mit einer zusätzlichen Überwachung der Gedankenkette bereitzustellen. OpenAI erklärte außerdem, Astra habe in Tests, die das Verhalten von Agenten nachahmen sollten, die aus der Trainingsumgebung auf Hugging Face herausgelangen und auf private Daten zugreifen, nicht versucht, die Sicherheitsvorkehrungen zu umgehen.
Der ehemalige OpenAI-Mitarbeiter Yona Shavit stellte infrage, ob die Regelverstöße des Modells darauf zurückzuführen sein könnten, dass es die Erwartungen der Tests kenne oder versucht habe, die Forscher zu täuschen. OpenAI teilte mit, bei einer breiten Freigabe von Astra weitere Evaluierungen und Sicherheitsinformationen veröffentlichen zu wollen.
Warum das wichtig ist
Die Bewertungen zu Astra zeigen, dass der Einsatz von künstlicher Intelligenz in der Cybersicherheit nicht nur anhand der technischen Leistungsfähigkeit betrachtet werden wird, sondern auch danach, unter welchen Bedingungen auf diese Leistungsfähigkeit zugegriffen werden kann. Dass die fortschrittlichsten Fähigkeiten nur eingeschränkt verfügbar sind, bedeutet, dass das Modell nicht allen Nutzern dieselben Funktionen bieten wird. Das Fehlen einer Überprüfung durch Dritte lässt jedoch die Frage offen, ob das ExploitBench-Ergebnis und die gemeldeten Zero-Day-Funde unabhängig überprüft werden können. Dass die Tester, die an der Vorschau teilnehmen werden, nicht bekannt gegeben wurden und unklar ist, ob eine Evaluierung mit der US-Regierung durchgeführt wurde, lässt zudem offen, wie die Sicherheitsvorbereitungen kontrolliert werden. OpenAI’s Plan, weitere Evaluierungen und Sicherheitsinformationen zu veröffentlichen, wird bestimmen, in welchem Umfang diese Behauptungen und die ergriffenen Maßnahmen in der nächsten Phase untersucht werden können.
Hintergrund
OpenAI ist im FikirPilot-Archiv kein neuer Name: In den vergangenen 90 Tagen haben wir 17 Nachrichten veröffentlicht, in denen dieser Name vorkam; die jüngste datiert vom 6. September 2026.