Anthropic-CEO Dario Amodei hat einen dreistufigen Plan vorgestellt und sich dafür ausgesprochen, das Tempo der Entwicklung künstlicher Intelligenz zu verlangsamen. Amodei erklärte, der OpenAI-Hugging Face-Hackvorfall erfordere angesichts der in den vergangenen Monaten „drastisch schnelleren“ Fortschritte der künstlichen Intelligenz und der zunehmenden Fähigkeit, die nächste Generation künstlicher Intelligenz zu entwickeln, einen vorsichtigeren Ansatz. Amodei sagte, das Tempo der Arbeiten an künstlicher Intelligenz „an der Grenze des Machbaren“ müsse verlangsamt werden, und erklärte, dass die Fortschritte bei sorgfältiger Nutzung der gewonnenen Zeit dennoch schnell ausfallen würden.
Der erste Schritt des Plans sieht vor, dass „fest eingebettete Prüfer“ von Drittorganisationen wie METR in künstlichen Intelligenzunternehmen tätig werden. Diese Personen sollen überwachen, ob die Unternehmen ihre Verpflichtungen zur Sicherheit und Verlangsamung einhalten, und dafür sorgen, dass Sicherheitsvorfälle gemeldet werden. Amodei erklärte, Anthropic werde diese Praxis einseitig umsetzen und den Prüfern eine Unternehmenskennung, einen Arbeitsplatz und einen Laptop zur Verfügung stellen. Geplant ist, dass diese Personen – abgesehen von gesetzlichen oder vertraglichen Einschränkungen – weitgehend denselben Zugang erhalten wie die internen Risikobewertungsteams der Unternehmen. OpenAI-CEO Sam Altman unterstützte den Vorschlag und kündigte an, dass auch sein Unternehmen denselben Schritt unternehmen werde.
Der zweite Vorschlag besteht darin, dass sich führende künstliche Intelligenzunternehmen in demokratischen Ländern koordinieren, um gemeinsame Sicherheitsstandards festzulegen und Grenzen für das Tempo unkontrollierter Fortschritte zu bestimmen. Amodei forderte die US-Regierung auf, diese Gespräche angesichts kartellrechtlicher Bedenken zu erleichtern oder für bestimmte Sicherheitsgespräche eine begrenzte Ausnahme zu gewähren.
Amodei vertrat zudem die Ansicht, dass sich Chinas Fortschritte im Bereich der künstlichen Intelligenz verlangsamen ließen. Er erklärte, dass die USA ihre Führungsposition in den kommenden 3–5 Jahren deutlich ausbauen könnten, wenn die US-Regierung und Technologieunternehmen den Verkauf leistungsstarker Chips und Ausrüstung für die Halbleiterproduktion an chinesische Unternehmen verhinderten und Maßnahmen gegen Modelldestillation ergriffen.
Die dritte Phase besteht darin, dass die USA und ihre Verbündeten so weit wie möglich eine globale Koordination mit autoritären Regierungen aufbauen. Amodei sagte, die Zusammenarbeit mit China könne begrenzt bleiben, es könnten jedoch Vereinbarungen zu eng gefassten Themen getroffen werden, etwa ein Verbot der Nutzung künstlicher Intelligenz zur Herstellung biologischer Waffen.
Der Anthropic-Forscher Jacob Coxon trat zurück und begründete dies damit, dass die Unternehmen Menschenleben gefährdeten. Während Amodeis Ansatz von einigen Kreisen als übermäßig pessimistisch eingestuft wurde, argumentierte der Journalist Brian Merchant, diese Warnungen überschatteten die bereits bestehenden Schäden. Amodei erklärte hingegen, er glaube, dass künstliche Intelligenz die Lebensqualität erheblich verbessern könne, dies jedoch von der richtigen Entwicklung der Technologie abhänge.
Warum wichtig
Der Vorschlag konkretisiert die Debatte darüber, dass die Sicherheit künstlicher Intelligenz aus den eigenen Erklärungen der Unternehmen herausgelöst und einer unabhängigen Prüfung geöffnet werden sollte. Den Evaluatoren einen ähnlichen Zugang wie den unternehmensinternen Risikoteams zu gewähren, macht die Fragen, wie Sicherheitszusagen überprüft werden sollen und wann Vorfälle gemeldet werden müssen, unmittelbar zu einer Angelegenheit der Unternehmensführung. Der Ruf nach gemeinsamen Standards zwischen den Unternehmen rückt dagegen das Spannungsverhältnis zwischen Wettbewerbsrecht und öffentlicher Sicherheit in den Vordergrund; die mögliche Rolle der US-Regierung ist daher nicht nur eine technische, sondern auch eine regulatorische Frage. Der Vorschlag einer begrenzten Vereinbarung mit China über Beschränkungen für Chips und Halbleiterausrüstung zeigt, dass die Debatte auf die Bereiche Technologiehandel und internationale Sicherheit übergegangen ist. Rücktritt und Kritik machen jedoch deutlich, dass eine Verlangsamung nicht von allen übernommen wird und weiterhin offen ist, welchen Risiken Priorität eingeräumt werden soll.
Hintergrund
Anthropic ist im FikirPilot-Archiv kein neuer Name: In den letzten 90 Tagen haben wir 20 Nachrichten veröffentlicht, in denen dieser Name vorkam; die jüngste stammt vom 13. September 2026.