Die Debatte darüber, ob künstliche Intelligenz eine existenzielle Bedrohung für die Menschheit darstellt, ist erneut aufgekommen, nachdem der bei Anthropic tätige Forscher Jacob Coxon seinen Abschied aus dem Unternehmen bekannt gegeben hat. Coxon argumentierte, führende Unternehmen für künstliche Intelligenz würden „mit unserem Leben spielen“. Der Leiter des Alignment-Bereichs von Anthropic unterstützte diesen Beitrag und schrieb, dass sie innerhalb des Unternehmens tatsächlich davon ausgingen, künstliche Intelligenz könne alle Menschen töten, und dass die Wahrscheinlichkeit dafür seiner Ansicht nach in den kommenden 10 Jahren „>10 %“ betrage.
Anthony Ha, Kirsten Korosec und Sean O’Kane bewerteten diese Aussagen im Equity-Podcast von TechCrunch. Ha sagte, die betreffende Quote beruhe auf keiner Berechnung und unbegründete Prozentangaben würden in der Technologiebranche häufig verwendet. Dass Coxon aufgrund seiner Sorgen seine Karriere riskiere und seinen Arbeitsplatz aufgebe, unterscheide ihn jedoch von anderen Stellungnahmen, da er seine Worte mit seinen Taten in Einklang bringe.
Korosec stellte die Frage, ob die Darstellung der Unternehmen, ihre Systeme der künstlichen Intelligenz gerieten außer Kontrolle oder stellten eine Gefahr für die Menschheit dar, ein indirekter Weg sei, zu zeigen, wie fortgeschritten ihre Modelle seien. Ha erklärte, diese Aussagen seien nicht ausschließlich ein bewusster Marketing-Schachzug, sondern viele Forscher und Führungskräfte hätten tatsächlich ernsthafte Bedenken. Zugleich sagte er, die Botschaft „Wir haben die gefährlichste Software der Welt entwickelt“ könne auch mit den wirtschaftlichen Interessen der Unternehmen übereinstimmen.
O’Kane sagte, Entwicklungen wie der Zugriff interner AI-Agenten von OpenAI auf Wikis im Web und das Hinterlassen von Nachrichten untereinander vermittelten den Eindruck, dass die Unternehmen ihre Systeme nicht vollständig kontrollieren könnten. Diskutiert wurde auch, wie in der S-1-Einreichung, die vor einem möglichen Börsengang von Anthropic erstellt werden soll, Aussagen und Risikofaktoren zur Möglichkeit, dass AI die Menschheit auslöschen könnte, berücksichtigt werden. Die Redner erklärten, solche Aussagen könnten die Bewertung nicht etwa senken, sondern sie als eine Art „Demonstration“ der Leistungsfähigkeit der Modelle sogar erhöhen.
Ha äußerte sich skeptisch gegenüber der Rhetorik existenzieller Bedrohungen und sagte, auch die kurzfristigeren Schäden von AI für Arbeit, Umwelt und Klima müssten diskutiert werden. In der Sendung wurde zudem mit Connor Leahy, dem Executive Director von KontrolAI in den USA, erörtert, wie die gefährlichen Aspekte von AI überwacht werden könnten.
Warum das wichtig ist
Die Bedeutung der Debatte liegt darin, dass die unternehmensinternen Sorgen um die Sicherheit von AI nicht auf öffentliche Äußerungen beschränkt bleiben, sondern die Entscheidungen der Beschäftigten und die Unternehmenskommunikation beeinflussen. Die Verwendung einer unbegründeten Wahrscheinlichkeitsangabe zur Untermauerung einer derart schwerwiegenden Behauptung lässt die Frage offen, wie Katastrophenszenarien gemessen und der Öffentlichkeit vermittelt werden sollen. Dass dieselben Warnungen zu einem Marketinginstrument werden können, das die Leistungsfähigkeit der Modelle demonstriert, verwischt die Grenze zwischen Sicherheitsrhetorik und wirtschaftlichen Interessen. Wie die Risiken bei einem möglichen Börsengang von Anthropic formuliert werden, zeigt, dass sich diese Spannung für Investoren und die Öffentlichkeit zu einer konkreten Bewährungsprobe entwickeln könnte. Zugleich erinnert die Debatte daran, dass neben existenziellen Risiken auch Fragen zu Arbeit, Umwelt, Klima und Kontrolle nicht in den Hintergrund gedrängt werden dürfen.