In den vergangenen Wochen haben die Führungskräfte einiger großer Unternehmen für künstliche Intelligenz davor gewarnt, dass die von ihnen entwickelte Technologie gefährlich sei. Anthropic CEO Dario Amodei erklärte, der Fortschritt müsse verlangsamt werden, während OpenAI CEO Sam Altman sagte, er stimme ihm zu, dass die Geschwindigkeit der „frontier“-Arbeiten angepasst werden müsse.
Der von Anthropic ausgeschiedene Forscher Jacob Coxon beschuldigte Anthropic und OpenAI, wo er zuvor gearbeitet hatte, verantwortungslos zu handeln. Coxon schrieb, die Entwickler von künstlicher Intelligenz glaubten, dass die KI bis zum Ende des Jahrzehnts die gesamte Menschheit töten könnte. Auch der Anthropic-Mitarbeiter Evan Hubinger schloss sich dieser Einschätzung an und sagte, er sehe die Wahrscheinlichkeit für das kommende Jahrzehnt bei „>10 %“.
Eine der Befürchtungen ist, dass künstliche Intelligenz beim Entwurf biologischer Waffen helfen könnte, etwa tödlicher Viren, die auf menschliche Gene abzielen, Pilzen, die die Landwirtschaft zerstören könnten, oder Toxinen, die unbemerkt ins Wasser gelangen könnten. Forschende von Collaborations Pharmaceuticals zeigten 2022 mit einem von ihnen entwickelten Molekülgenerator, dass in weniger als sechs Stunden 40.000 Moleküle erzeugt wurden, die als chemische Kampfstoffe eingesetzt werden könnten; einige davon waren so konzipiert, dass sie giftiger als bekannte Nervenkampfstoffe sind.
David Magnus von Stanford findet dies sehr beängstigend. Der Biosicherheitsforscherin Dunja Sabra von der Universität Hamburg zufolge können Bots der künstlichen Intelligenz wissenschaftliche Informationen, Versuchsanleitungen und Video-Tutorials bereitstellen. Die zunehmende Verbreitung von Gen-Editing, synthetischer Biologie und Heimlaboren erhöht das Risiko.
DNA-Screenings, „red-teaming“, „blue-teaming“ und Sicherheitsmaßnahmen für künstliche Intelligenz gibt es bereits; Sabra weist jedoch darauf hin, dass eine entschlossene Person letztlich erfolgreich sein könnte.
Warum das wichtig ist
Diese Diskussion zeigt, dass die Sicherheit künstlicher Intelligenz nicht darauf beschränkt ist, wie Systeme sich verhalten, sondern auch die Möglichkeit des Missbrauchs biologischer und chemischer Bedrohungen bereits in der Entwurfsphase umfasst. Zwar zielen bestehende DNA-Screenings, teamübergreifende Kontrollmethoden und andere Sicherheitsmaßnahmen darauf ab, das Risiko zu verringern, doch bleibt offen, ob sie ausreichen, um den Versuch einer entschlossenen Person zu verhindern. Die entscheidende Frage ist daher nicht nur, wie die Entwicklungsgeschwindigkeit angepasst werden soll, sondern auch, in welcher Phase Sicherheitskontrollen angewendet werden und in welchem Umfang sie als ausreichend gelten. Das Thema betrifft neben den Führungskräften und Beschäftigten von Unternehmen für künstliche Intelligenz auch Forschende, die sich mit Gen-Editing, synthetischer Biologie und Heimlaboren beschäftigen, unmittelbar.
Begriff: Agent
Ein Agent der künstlichen Intelligenz ist eine Software, die nicht nur eine einzelne Antwort erzeugt, sondern zur Erreichung eines Ziels Tools aufruft und mehrstufige Aufgaben ausführt.