Google- und Google-DeepMind-Forscher haben das DeepMind Institute gegründet, um die Debatte über künstliche allgemeine Intelligenz (AGI) zu erweitern. Zu den Leitern des Instituts gehören der DeepMind-Mitbegründer Shane Legg, der Google-Manager James Manyika und Google-DeepMind-Chef Demis Hassabis; Legg fungiert zugleich als geschäftsführender Redakteur. Die Institution will unterschiedliche Ansichten von Google, Google DeepMind und der globalen Forschungsgemeinschaft aufzeigen.
Die erste Sammlung enthält vier Artikel: über Maßnahmen zur Steuerung der wirtschaftlichen Auswirkungen von AGI, die Wahrung der menschlichen Lesbarkeit des Schlussfolgerns von Modellen, Grundsätze des menschlichen Wohlergehens und einen Rahmen zur Bewertung führender KI-Modelle. Die DeepMind-Sicherheitsforscher Rohin Shah und Anca Dragan argumentieren, dass ein Rückgang der Transparenz trotz neuer Architekturen, die die Überwachung leistungsfähiger Modelle erschweren, nicht unvermeidlich ist. Die Forscher schlagen vor, dass Entwickler und Regulierungsbehörden Optionen wie eine Begrenzung der „opaque serial depth“ oder den Nachweis der Überwachbarkeit weniger transparenter Systeme prüfen.
Hassabis schlägt seinerseits die Gründung einer von den USA geführten Standardorganisation vor, die die fortschrittlichsten Modelle bewerten soll. Entwickler sollen ihre Modelle zunächst bis 30 Tage vor ihrer Markteinführung freiwillig zur Prüfung einreichen; falls sich das System als wirksam erweist, könnte das Bestehen der Bewertung zur Voraussetzung für die Verbreitung in den USA werden. Die Institution wird im Laufe der Zeit geheime „held-out“-Tests entwickeln, um zu verhindern, dass Labore ihre Modelle anhand der Ergebnisse anpassen. Bei Bedarf könnte auch eine koordinierte Verlangsamung führender KI-Entwicklungen zur Debatte stehen. Die Artikel zeigen, dass sich die Sicherheitsdebatte von allgemeinen Bedenken hin zu konkreten Vorschlägen für Kontrolle und Verlangsamung verschiebt.
Warum wichtig
Das Institut führt die AGI-Debatte aus dem Bereich einer rein technischen Kapazitätsfrage heraus und überführt sie in ein Politikfeld, das gemeinsam mit wirtschaftlicher Steuerung, menschlichem Wohlergehen, Transparenz und den Bedingungen für den Marktzugang betrachtet wird. Dieser Rahmen rückt für Modellentwickler nicht nur die Abgabe einer Sicherheitserklärung, sondern auch die Erläuterung dessen in den Mittelpunkt, wie die Systeme überwacht werden und welche Bewertungen sie durchlaufen. Für die Regulierungsbehörden steht im Zentrum der Debatte, unter welchen Bedingungen freiwillige Prüfungen in verbindliche Regeln übergehen. Die Vorschläge für geheime Tests und eine koordinierte Verlangsamung lassen unterdessen die Frage offen, in welchem Maße die Aufsicht unabhängig von den eigenen Messungen und Anpassungen der Labore durchgeführt werden kann.
Hintergrund
Google ist im FikirPilot-Archiv kein neuer Name: In den letzten 90 Tagen haben wir 43 Nachrichten veröffentlicht, in denen dieser Name vorkam; die jüngste stammt vom 19. September 2026.