Im Equity-Podcast von TechCrunch diskutierten Anthony Ha, Kirsten Korosec und Sean O’Kane, ob die KI-Branche bereit ist, ihre Entwicklung zu verlangsamen oder mit dem Ansatz „pace the frontier“ kontrollierter voranzugehen. Die Diskussion begann nach dem Plan von Anthropic-CEO Dario Amodei, den Fortschritt von Frontier-KI zu „pacen“, sowie ähnlichen Äußerungen von OpenAI-CEO Sam Altman. Nvidia-CEO Jensen Huang unterstützte unterdessen die Ansicht von Präsident Donald Trump, die Gegenreaktion auf KI sei ein „hoax“ und es bestehe kein Bedarf an Regulierung.
Sean O’Kane bezeichnete die Unterstützung von Anthropic, OpenAI und in gewissem Maße auch Elon Musk für die Idee einer Verlangsamung als eine bedeutende Veränderung gegenüber ihren früheren Einschätzungen. Er argumentierte jedoch, der von Amodei in seinem Blog dargelegte Plan enthalte nicht genügend Einzelheiten zu den Ursachen der Risiken und dazu, was eine „Verlangsamung“ in der Praxis bedeuten würde. Anthony Ha erklärte ebenfalls, der sich rasch herausbildende Konsens in der Branche über den Plan sei zwar ermutigend, wecke jedoch Zweifel daran, ob es sich tatsächlich um einen weitreichenden Schritt zur Verlangsamung handle.
Kirsten Korosec erklärte, der betreffende Ansatz betreffe insbesondere Frontier-KI-Labore, und fasste die wichtigsten Vorschläge wie folgt zusammen:
- Unabhängige externe Gutachter sollen bei Unternehmen wie Anthropic und OpenAI arbeiten und die Sicherheitspraktiken sowie Vorfälle im Zusammenhang mit KI überwachen.
- Große KI-Unternehmen in demokratischen Ländern sollen sich bei Sicherheitsstandards und Grenzen koordinieren.
- Auf internationaler Ebene soll eine Koordination gewährleistet werden.
Korosec sagte, die groben Rahmenbedingungen dieser Vorschläge seien bekannt, die Einzelheiten blieben jedoch unklar. Zudem bestehe die Möglichkeit, dass die Einigung zum Beginn eines Kartells werden könnte. Außerdem erklärte sie, dass Nvidia-CEO Jensen Huang diesen Ansatz entschieden ablehne.
O’Kane zufolge nimmt Huang eine wichtige Vermittlerrolle zwischen der Branche und der Trump-Regierung ein und vertritt eine Haltung, die den Fortschritt von KI-Unternehmen unterstützt. Korosec argumentierte hingegen, Huangs Haltung sei mit seinen Interessen verbunden, da Nvidia in hohem Maße davon profitiere, dass sich KI ohne Einschränkungen weiterentwickle. Ha erklärte zudem, dass sich die Interessen von Trump und Huang überschnitten und die Vorschläge zwar Sicherheitsvorkehrungen enthielten, aber nicht ausdrücklich vorschrieben, dass sich KI langsamer als heute weiterentwickeln müsse.
Im Podcast wurde auch erörtert, ob die bestehenden Vorschriften und der freie Markt für die Sicherheit ausreichen. O’Kane sagte, die Bundesregierung scheine nicht bereit zu sein, die Vorschriften durchzusetzen, und die Entscheidungen der Verbraucher lenkten diesen Markt nicht ausreichend. Er argumentierte, dass Unternehmen mehr Dienstleistungen an Firmenkunden verkauften und durch Investitionskapital unterstützt würden. Daher könne man im Falle eines ernsthaften Problems nicht erwarten, dass Kunden einfach von OpenAI’s Codex zu Anthropic’s Claude Code wechselten.
Warum das wichtig ist
Die Bedeutung der Debatte liegt darin, dass sie die Frage in den Vordergrund rückt, ob die Sicherheit von AI ausschließlich auf freiwilligen Entscheidungen der Unternehmen oder auf unabhängiger Aufsicht und gemeinsamen Standards zwischen den Ländern beruhen wird. Während der vorgeschlagene Rahmen insbesondere Labore betrifft, die Frontier-KI entwickeln, könnte eine Einigung dieser Unternehmen auf dieselben Regeln zwar die Zusammenarbeit im Bereich der Sicherheit fördern, sich aber auch zu einer Struktur entwickeln, die den Wettbewerb einschränkt. Nvidias Ansatz verlagert die Debatte derweil über die technischen Sicherheitsgrenzen hinaus; unklar bleibt, wie stark die Interessen der Unternehmen und der öffentlichen Verwaltung hinsichtlich des Tempos von AI voneinander abweichen. Die zentrale offene Frage lautet daher, wie eine unabhängige Bewertung funktionieren soll, welche Risiken anhand welcher Schwellenwerte berücksichtigt werden und ob die bestehenden Vorschriften die Unternehmen in der Praxis binden werden.