Anthropic-CEO Dario Amodei veröffentlichte einen etwa 4.000 Wörter langen Text, in dem er dafür plädierte, die Entwicklung künstlicher Intelligenz zu verlangsamen, bis Sicherheitsvorkehrungen getroffen worden sind. Sein Plan enthielt auch den Aufruf zu internationaler Zusammenarbeit zwischen Unternehmen und Regierungen für eine sichere Anwendung. OpenAI-CEO Sam Altman und xAI-CEO Elon Musk unterstützten diesen Plan.
Meta-CEO Mark Zuckerberg sagte hingegen, dass Vertrauen und Compliance bei Systemen künstlicher Intelligenz bestimmend geworden seien. Zuckerberg erklärte, Meta habe die Veröffentlichung seines eigenen KI-Modells Muse aus Sicherheits- und Schutzgründen um einige Monate verschoben, und betonte, Unternehmen könnten dies auch ohne staatlichen Zwang tun. Zuckerberg unterstützte nur einige Teile von Amodeis Plan und vertrat die Ansicht, Sicherheit könne durch eigene Anreize der Branche anstelle staatlicher Eingriffe gewährleistet werden.
Alexis Ohanian, Mitgründer von Reddit, sagte, die Branche sei nicht ausreichend darin, die Risiken künstlicher Intelligenz der Öffentlichkeit zu vermitteln; zugleich äußerte er die Hoffnung, dass die Unternehmen die Probleme selbst lösen könnten. Shane Legg, Mitgründer von Google DeepMind, erklärte, die Fähigkeiten dürften nicht Vorrang vor der Sicherheit erhalten, und rief dazu auf, die Einzelheiten der Anwendung auszuarbeiten.
OpenAI, Anthropic und andere große KI-Unternehmen sollen Gespräche über die Gründung einer privaten Standardisierungsorganisation geführt haben, die auf freiwilligen Zusagen beruhen soll. Zuvor war eine ähnliche föderale Struktur vorgeschlagen worden. Die Trump-Regierung vertrat jedoch die Ansicht, die Regulierung müsse den Unternehmen überlassen werden, während sie zugleich versuchte, die Bundesstaaten daran zu hindern, eigene Gesetze zur künstlichen Intelligenz zu verabschieden. Auch der „AI czar“ der Regierung, David Sacks, unterstützte diese Ansicht. Der Sprecher des Repräsentantenhauses, Mike Johnson, gab hingegen eine Erklärung ab, in der er die Sorgen über katastrophale Folgen künstlicher Intelligenz herunterspielte.
Dass eine private Selbstregulierungsorganisation ihre Regeln auf freiwilligen Standards basieren und großen Unternehmen mehr Befugnisse einräumen soll, hat die Debatte über eine „Vereinnahmung der Regulierungsbehörden“ verschärft. Dieser Ansicht zufolge könnten große Unternehmen die Standards so einsetzen, dass kleinere und weniger gut ausgestattete Wettbewerber benachteiligt werden.
Der Sprecher des chinesischen Außenministeriums, Guo Jiakun, bezeichnete Amodeis Aufrufe als „Angstmacherei“, die eine globale Governance der künstlichen Intelligenz behindere. Amodei schrieb hingegen, dass Chinas Fortschritt gebremst und die USA ihren Vorsprung innerhalb von 3–5 Jahren ausbauen könnten, falls seine Vorschläge umgesetzt würden. Der kanadische CEO von Cohere, Aidan Gomez, beschuldigte zudem große amerikanische Labore, ein „Kartell“ zu bilden, und sagte, in der Debatte gehe es darum, wer die Sicherheitsregeln schreibe und wessen Interessen sie schützten.
Warum das wichtig ist
Im Zentrum der Debatte steht inzwischen nicht mehr nur die Frage, ob künstliche Intelligenz sicher ist, sondern auch, wer die Sicherheitsregeln festlegt. Eine private Struktur auf Grundlage freiwilliger Standards kann eine schnelle Umsetzung und eine Koordination innerhalb der Branche ermöglichen; das Gewicht großer Unternehmen in den Entscheidungsprozessen verstärkt jedoch die Sorge, dass die Regeln zulasten kleinerer Wettbewerber eingesetzt werden könnten. Der Gegensatz zwischen dem Ansatz, der staatliche Eingriffe ablehnt, und dem Aufruf zur internationalen Zusammenarbeit lässt die Frage offen, ob die Sicherheit den Anreizen der Unternehmen oder der öffentlichen Hand überlassen werden soll. Chinas Kritik und das Ziel der USA, ihren Vorsprung zu bewahren, machen die Sicherheitsdebatte untrennbar vom globalen Wettbewerb. Daher besteht sowohl hinsichtlich des Umfangs der Regulierung als auch der Frage, wie die freiwilligen Verpflichtungen der Unternehmen überwacht werden sollen, weiterhin Ungewissheit.