Bei OpenAI und bei Anthropic, dem Unternehmen, das Claude seit drei Jahren entwickelt, arbeitete der Forscher Jacob Coxon an der Vortrainierung von KI-Modellen. Nun ist Coxon bei Anthropic zurückgetreten. Er argumentierte, dass die beiden Unternehmen einen „geradlinigen Wettlauf hin zu einer sich selbst verbessernden Superintelligenz“ führten und mit der Zukunft der Menschheit pokerten.
Coxon sagte, viele Menschen, die KI entwickeln, glaubten aufrichtig, dass diese Technologie die Menschheit bis zum Ende des Jahrzehnts auslöschen könnte; das sei kein Marketingtrick. Bei Anthropic seien die Risiken bekannt, doch das Unternehmen setze die Entwicklung wegen des Wettlaufs um den ersten Durchbruch fort, erklärte Coxon. Dieser Wettlauf berge das Risiko, Systeme hervorzubringen, die außer Kontrolle geraten könnten.
Coxon erklärte, er sei in Fragen der Koordination optimistisch, und sagte, Entwicklungen wie der Angriff auf Hugging Face könnten Vereinbarungen zwischen US-Laboren zur Festlegung des Tempos ermöglichen. Um einen globalen Wettlauf zu verhindern, könnten kostspielige Schritte wie ein vorübergehendes Verbot der Weiterentwicklung von Modellfähigkeiten erforderlich sein, erklärte Coxon. Er forderte die Forscher auf, über die Folgen nachzudenken, wenn sie Superintelligenzsysteme betreiben, ohne sie ausreichend zu verstehen.
Warum wichtig
Diese Äußerungen verlagern die Debatte über die Sicherheit künstlicher Intelligenz von einer abstrakten Risikofrage auf ein Governance-Problem, das unmittelbar mit der Entscheidungsfindung in den Laboren verbunden ist. Dass die Unternehmen den Wettlauf um den ersten Durchbruch fortsetzen, obwohl sie die Risiken kennen, weckt die Sorge, dass sich die technischen Fähigkeiten und die Sicherheitsbewertung möglicherweise nicht im gleichen Tempo entwickeln. Das Thema betrifft nicht nur die Forscher, sondern auch die Koordination zwischen den Unternehmen, die die Bedingungen und möglichen Grenzen der Entwicklung dieser Systeme festlegen wird. Ob Entwicklungen wie der Angriff auf Hugging Face Vereinbarungen zur Festlegung des Tempos ermöglichen könnten und ob der Vorschlag einer vorübergehenden Pause bei der Steigerung der Modellfähigkeiten umsetzbar ist, bleibt offen.
Hintergrund
Anthropic ist im Archiv von FikirPilot kein neuer Name: In den vergangenen 90 Tagen haben wir 7 Nachrichten veröffentlicht, in denen dieser Name erwähnt wird; die jüngste davon stammt vom 6. September 2026.