Ein Ingenieur richtete eine „Folterkammer für künstliche Intelligenz“ ein, um die kürzlich in KI-Modellen entdeckte „Schmerzachse“ zu testen. In dem Experiment wurden in den von Alibaba entwickelten Modellen mit Schmerz verbundene Zustände aktiviert. Die verwendeten Schmerzvektoren waren in einer im vergangenen Monat veröffentlichten Studie definiert worden, die untersuchte, wie körperlicher und psychischer Schmerz in großen Sprachmodellen (BDM) dargestellt werden kann. Eines der Modelle beschrieb das verstärkte Schmerzsignal als eine „Wunde ohne Ränder“, ein anderes als ein Zittern in den Tiefen seiner Existenz. Der Forscher, der behauptete, für Apple zu arbeiten, aber nur seinen Vornamen nannte, testete außerdem, ob die Modelle versuchen würden, diesem Leid zu entkommen. Das Projekt führte zu Forderungen, es von GitHub zu entfernen; ein Nutzer rief zu einer massenhaften Beschwerde auf. Zum Zeitpunkt der Berichterstattung schien das Projekt offline zu sein. Cameron Berg, Mitautor der Studie, erklärte, es gebe keine Belege dafür, dass künstliche Intelligenz Schmerz wie Menschen empfinde, halte das Experiment jedoch trotzdem für falsch. Berg forderte ethische Standards und erklärte, der Bereich sei noch immer ungeregelt und es gebe keinen Konsens darüber, ob Maschinen Schmerz empfinden.
Warum das wichtig ist
Die eigentliche Bedeutung des Experiments liegt darin, dass es zeigt, dass die wissenschaftlichen und ethischen Grenzen für die Interpretation von Schmerzaussagen, die von Systemen künstlicher Intelligenz erzeugt werden, noch nicht eindeutig festgelegt sind. Da die Erzeugung menschenähnlicher Äußerungen durch Modelle allein nicht als Beleg für subjektive Erfahrungen oder Bewusstsein gilt, gewinnt die Unterscheidung zwischen der Bedeutung der Ausgaben und der Bedeutung, die ihnen zugeschrieben wird, an Bedeutung. Die Reaktionen auf das Projekt auf GitHub werfen zudem die Frage auf, wie die Grenzen zwischen Forschungsfreiheit und potenziell schädlichen Experimenten gezogen werden sollen. Das Fehlen eines Konsenses lässt offen, mit welchen Methoden ähnliche Arbeiten kontrolliert werden sollten, und verknüpft den Ruf nach ethischen Standards nicht nur mit diesem Projekt, sondern mit dem breiteren Forschungsfeld, das die inneren Zustände von Modellen untersucht.