Das Unabhängige Internationale Wissenschaftliche Gremium für Künstliche Intelligenz der Vereinten Nationen erklärte, Sicherheitsmaßnahmen dürften nicht aufgeschoben werden, bis die Risiken fortgeschrittener KI-Agenten verstanden seien. Die im vergangenen Jahr eingerichtete thematische Bewertung des Gremiums untersucht Kontroll- und Sicherheitsprobleme nach dem zu Beginn dieses Jahres im Zusammenhang mit OpenAI bekannt gewordenen Angriff auf Hugging Face. Dem Bericht zufolge sollten Regierungen frühzeitig Maßnahmen ergreifen, statt auf Vorfälle zu warten; wissenschaftliche Ungewissheit dürfe die Regulierung nicht verzögern. Während die Fähigkeiten autonomer und halbautonomer Agenten zunehmen, sollten internationale Koordination sowie gemeinsame Sicherheits- und Verantwortungsprinzipien gestärkt werden; Ressourcen sollten für Sicherheits- und Rechenschaftsmechanismen bereitgestellt werden. In der während der Tagung der UN-Generalversammlung in New York veröffentlichten Bewertung rief António Guterres die Länder dazu auf, gemeinsam zu handeln. Guterres sagte, ein Unterbietungswettbewerb bei Sicherheitsstandards sei nicht akzeptabel. Das Gremium stuft den Kontrollverlust als ein ungewisses Risiko mit schwerwiegenden Folgen ein.
Warum das wichtig ist
Im Mittelpunkt der Bewertung steht die Frage, ob Sicherheitsentscheidungen aufgeschoben werden können, während die Fähigkeiten von KI-Agenten zunehmen, indem man auf eindeutige wissenschaftliche Belege wartet. Dieser Rahmen ordnet die Governance von künstlicher Intelligenz nicht nur als eine Frage des technischen Fortschritts ein, sondern auch als eine Frage frühzeitiger Maßnahmen, gemeinsamer Standards und geteilter Verantwortung. Die Empfehlungen rücken die Frage, wie die unterschiedlichen Sicherheitsansätze der Länder in Bezug auf Kontrolle, Ressourcenzuweisung und Rechenschaftspflicht aufeinander abgestimmt werden können, ins Zentrum der internationalen Koordination. Dass das Risiko eines Kontrollverlusts jedoch ungewiss ist, lässt offen, ab welcher Schwelle welche Maßnahmen verpflichtend vorgeschrieben werden und wie die Verantwortung für schwerwiegende Folgen verteilt werden soll.
Begriff: Agent
Ein KI-Agent ist eine Software, die nicht nur eine einzelne Antwort erzeugt, sondern zur Erreichung eines Ziels Tools aufruft und mehrstufige Aufgaben ausführt.