Microsoft hat während der Debatte über die Sicherheit fortschrittlicher KI-Systeme ein 37-seitiges Dokument mit „humanistischen Verhaltensregeln für künstliche Intelligenz“ veröffentlicht. Darin wird erklärt, dass Menschen wichtiger sind als künstliche Intelligenz, dass Modelle unter allen Umständen menschlicher Aufsicht unterstehen müssen und kein Bewusstsein besitzen. Microsoft lehnt es außerdem ab, Modellen Rechtspersönlichkeit oder Rechte zu gewähren und ihr Wohlergehen zu berücksichtigen. Dieser Ansatz unterscheidet sich von Anthropics Forschungen zum Bewusstsein künstlicher Intelligenz und zum Wohlergehen von Modellen. Während Anthropic CEO Dario Amodei erklärte, fortschrittliche Modelle könnten bewusst sein, bezeichnete Microsoft AI CEO Mustafa Suleyman diese Einschätzungen im Juni als „wirklich sehr gefährlich“. Microsoft plädiert im Wettbewerb mit Google, Anthropic und OpenAI dafür, die menschliche Aufsicht zu bewahren, Aufgaben scheitern zu lassen, die Sicherheitsgrenzen verletzen würden, und sich nicht an einem Wettlauf um Superintelligenz zu beteiligen, der Sicherheitsvorkehrungen umgehen könnte.
Warum das wichtig ist
Das Dokument rahmt die Debatte über den Status von KI-Systemen nicht nur über ihre technische Leistungsfähigkeit, sondern auch über das Machtverhältnis, das sie zu Menschen aufbauen werden. Da sich Microsofts Ansatz bei der Frage, ob Modelle als bewusst oder als Träger eines Wohlergehens gelten sollen, von der Position Anthropics unterscheidet, zeigt er, dass es in der Branche keine gemeinsame ethische Grundlage gibt. Die Grundsätze, die menschliche Aufsicht zu bewahren und Aufgaben scheitern zu lassen, die Sicherheitsgrenzen verletzen, machen deutlich, dass die Verantwortung aus Sicht der Parteien, die diese Systeme entwickeln und nutzen, beim Menschen und nicht beim Modell liegt. Offen bleibt die Frage, in welche Regeln sich die unterschiedlichen Auffassungen der Unternehmen über Bewusstsein, Rechte und Sicherheit bei fortschrittlichen Modellen übersetzen werden und ob ein gemeinsamer Standard entstehen wird.
Hintergrund
Microsoft ist im FikirPilot-Archiv kein neuer Name: In den vergangenen 90 Tagen haben wir 11 Nachrichten veröffentlicht, in denen dieser Name vorkam; die jüngste datiert vom 14. September 2026.