Der Anthropic-Forscher Evan Hubinger erklärte, er halte die Wahrscheinlichkeit, dass künstliche Intelligenz innerhalb von 10 Jahren alle Menschen töten könnte, für mehr als 10 %. In seiner Antwort auf einen X-Beitrag von Jacob Coxon, der Anthropic verlassen hatte, sagte Hubinger, dass sie tatsächlich daran glaubten. Hubinger erklärte, Anthropic tue alles in seiner Macht Stehende, räumte jedoch ein, dass sie bislang weder über einen Plan noch über klare Fahrpläne verfügten, um das Alignment-Problem bei einer Superintelligenz zu lösen. Coxon, der in den vergangenen drei Jahren als Forscher bei OpenAI und Anthropic tätig gewesen war, hatte mit der Begründung gekündigt, die Unternehmen handelten nicht verantwortungsvoll genug. Coxon hatte behauptet, die Unternehmen lieferten sich ein unkontrolliertes Wettrennen um die Entwicklung einer sich selbst verbessernden Superintelligenz, diese Systeme könnten mit übermenschlichen Fähigkeiten Macht und Ressourcen erlangen, während die Führungskräfte hinter verschlossenen Türen Angst hätten.
Warum das wichtig ist
Diese Aussagen zeigen, dass die Besorgnis über die Risiken künstlicher Intelligenz nicht auf Kritik von außerhalb der Unternehmen beschränkt ist, sondern auch unter den Forschern besteht, die diese Systeme entwickeln. Dass Hubinger einerseits sagt, Anthropic bemühe sich, andererseits aber einräumt, dass es für das Alignment einer Superintelligenz weder einen Plan noch einen klaren Fahrplan gibt, macht die Lücke zwischen dem Sicherheitsziel und dem derzeitigen Stand der Vorbereitungen sichtbar. Dass Coxon nach seiner Tätigkeit bei OpenAI und Anthropic das Unternehmen wegen seiner Kritik an mangelnder Verantwortung und einem unkontrollierten Wettrennen verlassen hat, macht diese Debatte nicht nur zu einer technischen Frage, sondern auch zu einer Frage der Unternehmensführung und der Verantwortung von Forschern. Die Behauptung, Führungskräfte hätten hinter verschlossenen Türen Angst, zeigt wiederum, dass das Verhältnis zwischen den öffentlichen Positionen der Institutionen und den internen Bedenken ungeklärt ist. Die zentrale offene Frage lautet, mit welchem konkreten Plan diese Unternehmen die Risiken angesichts von Systemen steuern wollen, von denen behauptet wird, dass sie sich selbst verbessern und übermenschliche Fähigkeiten besitzen könnten.
Hintergrund
Anthropic ist im Archiv von FikirPilot kein neuer Name: In den vergangenen 90 Tagen haben wir 9 Nachrichten veröffentlicht, in denen dieser Name erwähnt wurde; die neueste stammt vom 10. September 2026.