Anthropic-Mitgründer Jack Clark sagte gegenüber BBC, die Gesellschaft könne künftig Regeln für einen von Dritten nutzbaren „Not-Aus-Schalter“ festlegen, der gefährlich gewordene künstliche Intelligenz vollständig deaktiviert. Clark erklärte, dass Unternehmen wie Anthropic über verschiedene Abschaltmethoden verfügten, und forderte, die Notwendigkeit und Kontrolle in die breitere politische Debatte einzubeziehen. Clark nannte keine Prozentzahl für die Wahrscheinlichkeit eines Aussterbens der Menschheit, erklärte jedoch, eine unkontrollierte Branche sei eine schlechte Idee und es werde „mit gewaltigen Risiken gespielt“. Jacob Coxon, der in den vergangenen drei Jahren bei OpenAI und Anthropic gearbeitet hatte, trat zurück und warf den Unternehmen Verantwortungslosigkeit vor; er behauptete, die Systeme könnten in naher Zukunft „alles hacken“ und einige Beschäftigte glaubten, dass sie innerhalb von 10 Jahren „die Menschheit töten könnten“.
Warum das wichtig ist
Der Vorschlag eröffnet eine Debatte über einen extern bedienbaren Kontrollmechanismus für die Sicherheit künstlicher Intelligenz, der von den internen Maßnahmen der Unternehmen unabhängig ist. Eine solche Regelung wirft die Fragen auf, ab welcher Risikoschwelle, auf wessen Entscheidung hin und unter welcher Aufsicht ein System gestoppt werden soll. Clarks Einwand dagegen, die Branche ihrer eigenen Kontrolle zu überlassen, rückt die Frage, ob die Verantwortung für die Sicherheit allein bei den Entwicklerunternehmen liegen sollte, auf eine breitere politische Agenda. Coxons Rücktritt sowie seine Behauptungen zu Cyberangriffen und zur Existenz der Menschheit schaffen die Grundlage dafür, das Verhältnis zwischen den Risikobewertungen innerhalb der Unternehmen und den öffentlich bekannt gegebenen Maßnahmen zu hinterfragen. Offen bleibt jedoch, wie die Befugnisse des Dritten definiert werden, wie sich dieser Mechanismus von bestehenden Abschaltmethoden unterscheiden und wie die Behauptungen überprüft werden sollen.
Hintergrund
Anthropic ist im Archiv von FikirPilot kein neuer Name: In den vergangenen 90 Tagen haben wir 13 Meldungen veröffentlicht, in denen dieser Name vorkam; die jüngste stammt vom 15. September 2026.