Les chercheurs de Google et de Google DeepMind ont fondé le DeepMind Institute afin d’élargir le débat sur l’intelligence artificielle générale (AGI). Parmi les dirigeants de l’institut figurent le cofondateur de DeepMind Shane Legg, le dirigeant de Google James Manyika et le président de Google DeepMind Demis Hassabis ; Legg en est également le rédacteur en chef. L’institution vise à faire émerger les différents points de vue de Google, de Google DeepMind et de la communauté mondiale de la recherche.
La première compilation comprend quatre articles : les politiques de gestion de l’impact économique de l’AGI, la préservation de la lisibilité humaine du raisonnement des modèles, les principes relatifs au bien-être humain et un cadre d’évaluation des modèles d’intelligence artificielle de pointe. Les chercheurs en sécurité de DeepMind Rohin Shah et Anca Dragan soutiennent que la réduction de la transparence n’est pas inévitable, malgré l’apparition de nouvelles architectures qui compliquent la surveillance des modèles puissants. Ils recommandent aux chercheurs, aux développeurs et aux régulateurs d’envisager des options telles que la limitation de l’« opaque serial depth » ou la démonstration de la traçabilité des systèmes moins transparents.
Hassabis propose quant à lui la création d’un organisme de normalisation dirigé par les États-Unis, chargé d’évaluer les modèles les plus avancés. Dans un premier temps, les développeurs soumettraient volontairement leurs modèles à un examen jusqu’à 30 jours avant leur mise sur le marché ; si le système se révélait efficace, le fait de réussir l’évaluation pourrait devenir une condition de déploiement aux États-Unis. Avec le temps, l’institution mettrait au point des tests secrets « held-out » afin d’empêcher les laboratoires d’ajuster leurs modèles en fonction des résultats. Si nécessaire, un ralentissement coordonné des avancées de l’intelligence artificielle de pointe pourrait également être envisagé. Les articles montrent que le débat sur la sécurité s’oriente des préoccupations générales vers des propositions concrètes de contrôle et de ralentissement.
Pourquoi c’est important
L’institut fait sortir le débat sur l’AGI de la seule question des capacités techniques pour en faire un domaine d’action publique abordé conjointement avec la gouvernance économique, le bien-être humain, la transparence et les conditions d’accès au marché. Ce cadre met à l’ordre du jour, pour les développeurs de modèles, non seulement la publication de déclarations de sécurité, mais aussi l’explication de la manière dont les systèmes sont audités et des évaluations qu’ils ont subies. Pour les régulateurs, le débat porte sur les conditions dans lesquelles les examens volontaires deviendront des règles contraignantes. Les propositions de tests secrets et de ralentissement coordonné laissent ouverte la question de savoir dans quelle mesure la supervision peut être menée indépendamment des propres mesures et ajustements des laboratoires.
Contexte
Google n’est pas un nouveau nom dans les archives de FikirPilot : au cours des 90 derniers jours, nous avons publié 43 articles mentionnant ce nom ; le plus récent est daté du 19 septembre 2026.