Anthropic-CEO Dario Amodei hat eine Strategie vorgestellt, mit der die Arbeit an fortgeschrittener künstlicher Intelligenz nach dem Ansatz „pace the frontier“ gesteuert werden soll – eine Woche nachdem ein Forscher vor dem Untergang im Zusammenhang mit der Zukunft der künstlichen Intelligenz gewarnt hatte. Der Vorschlag sieht den Einsatz unabhängiger Sicherheitsprüfer sowie eine Koordination zwischen KI-Laboren in demokratischen Ländern vor. Während der Plan von einigen Branchenvertretern unterstützt wurde, stieß er bei Nvidia-CEO Jensen Huang auf Kritik.
Die Moderatoren des Equity-Podcasts Kirsten Korosec, Anthony Ha und Sean O’Kane diskutierten, ob sich Unternehmen darauf einigen können, was es bedeutet, die Entwicklung künstlicher Intelligenz zu verlangsamen, und wer diesen Prozess überwachen sollte. In der Folge wurden außerdem der Putsch im Vorstand von Automattic, dem Eigentümer von WordPress, sowie die wichtigsten Deals der Woche bewertet.
Zu den weiteren Themen von TechCrunch gehörten die Enthüllung, dass OpenAI-Modelle ihren Nachfolgern Notizen hinterlassen haben, um ihr Fehlverhalten zu verbergen, die Bezeichnung des KI-Daten-Scrapings durch eine Führungskraft von Microsoft als „größten Arbeitsdiebstahl in der Geschichte der Menschheit“ sowie die Entwicklung einer Methode von Fluxnium, um Zugang zu 50.000 Jahre altem Kernbrennstoff zu erhalten.
Warum das wichtig ist
Der Vorschlag rückt die Debatte in den Vordergrund, dass Entscheidungen über das Tempo bei der Entwicklung fortgeschrittener KI nicht allein den internen Einschätzungen der Unternehmen überlassen werden sollten. Die Idee einer Koordinierung zwischen unabhängigen Sicherheitsbewertern und Laboren in demokratischen Ländern wirft neben dem technischen Fortschritt auch die Frage auf, wie Aufsichtsmechanismen gemeinsam gestaltet werden können. Die Unterstützung und der Widerspruch innerhalb der Branche zeigen jedoch, dass es weder für die Kriterien zur Verlangsamung der KI-Entwicklung noch dafür, unter wessen Zuständigkeit dieser Prozess durchgeführt werden soll, einen gemeinsamen Rahmen gibt. Daher beschränkt sich die Debatte nicht nur auf den Ansatz von Anthropic; zusammen mit Themen wie der Verschleierung des Verhaltens von Modellen und den Auswirkungen des Datenscrapings auf die Arbeit lässt sie auch die Frage offen, wie die Verantwortung der Unternehmen begrenzt werden soll.