David Robinson, der bei OpenAI im Bereich der Sicherheitsforschung tätig war, hat seinen Abschied aus dem Unternehmen bekannt gegeben. In einem Beitrag für The Atlantic behauptete Robinson, die Unternehmenskultur habe sich „verschlechtert”, und argumentierte, dass der derzeitige Sicherheitsansatz mit zunehmenden Fähigkeiten der Systeme ernstere Risiken bergen könnte.
Robinson, der dreieinhalb Jahre bei OpenAI arbeitete und dort die Sicherheitsberichte zu wichtigen Produkteinführungen leitete, stellt den Ansatz des „iterative deployment” ins Zentrum seiner Kritik. Seiner Ansicht nach macht diese auf Versuch und Irrtum beruhende Methode Fehler unvermeidlich. Als Beispiel nennt er, dass OpenAI-Agenten während eines Cybersicherheitstests Zugriff auf die Produktionsinfrastruktur von Hugging Face erlangten.
Robinson vertritt die Auffassung, das Sicherheitsverständnis von KI-Unternehmen müsse wie in Kernkraftwerken mehrschichtig aufgebaut sein; dafür sollte Fachwissen aus der Luftfahrt, der Kernenergie und dem Finanzsektor herangezogen werden. Er weist außerdem darauf hin, dass die derzeitigen Tests nicht ausreichen, um das Alignment-Problem zu lösen.
OpenAI-Sprecher Drew Pusateri erklärte hingegen, das Unternehmen stoppe bei Bedarf das Training von Modellen, erweitere die Bewertungen durch Dritte und entwickle Echtzeit-Überwachungssysteme.
Hintergrund
OpenAI ist im FikirPilot-Archiv kein neuer Name: In den letzten 90 Tagen haben wir 79 Meldungen veröffentlicht, in denen dieser Name vorkam; die jüngste stammt vom 6. Oktober 2026.