Le CEO d’Anthropic, Dario Amodei, a annoncé un plan en trois étapes, plaidant pour un ralentissement du rythme de développement de l’intelligence artificielle. Amodei a déclaré que l’incident de piratage OpenAI-Hugging Face appelait une approche plus prudente, alors que l’intelligence artificielle a progressé « de manière radicalement plus rapide » ces derniers mois et que la capacité à développer la prochaine génération d’intelligence artificielle s’est accrue. Affirmant que le rythme des travaux sur l’intelligence artificielle « à la frontière » devait être réduit, Amodei a indiqué que les progrès resteraient néanmoins rapides si le temps ainsi gagné était utilisé avec précaution.
La première étape du plan consiste à faire travailler, au sein des entreprises d’intelligence artificielle, des « évaluateurs intégrés » issus d’organisations tierces telles que METR. Ces personnes seraient chargées de vérifier que les entreprises respectent leurs engagements en matière de sécurité et de ralentissement, et de veiller à ce que les incidents de sécurité soient signalés. Amodei a déclaré qu’Anthropic mettrait cette mesure en œuvre unilatéralement et que les évaluateurs recevraient une pièce d’identité de l’entreprise, un espace de travail et un ordinateur portable. Il est prévu que ces personnes disposent d’un accès largement comparable à celui des équipes internes d’évaluation des risques des entreprises, sous réserve des limites légales ou contractuelles. Le CEO d’OpenAI, Sam Altman, a soutenu la proposition et annoncé que son entreprise prendrait également cette mesure.
La deuxième proposition consiste à instaurer une coordination entre les principales entreprises d’intelligence artificielle des pays démocratiques afin de définir des normes communes de sécurité et de fixer des limites au rythme des progrès non contrôlés. Amodei a demandé au gouvernement américain de faciliter ces discussions ou d’accorder une exemption limitée pour certaines discussions sur la sécurité, en raison des préoccupations liées au droit de la concurrence.
Amodei a également soutenu qu’il était possible de ralentir les progrès de la Chine dans le domaine de l’intelligence artificielle. Il a indiqué que, si le gouvernement américain et les entreprises technologiques empêchaient la vente de puces puissantes et d’équipements de production de semi-conducteurs aux entreprises chinoises, et prenaient des mesures contre la distillation de modèles, les États-Unis pourraient accroître considérablement leur avance au cours des 3 à 5 prochaines années.
La troisième étape consiste pour les États-Unis et leurs alliés à établir, dans la mesure du possible, une coordination mondiale avec les gouvernements autoritaires. Amodei a déclaré que la coopération avec la Chine pourrait rester limitée, mais que des accords ciblés pourraient être conclus, comme l’interdiction d’utiliser l’intelligence artificielle pour produire des armes biologiques.
Le chercheur d’Anthropic Jacob Coxon a démissionné, estimant que les entreprises mettaient en danger la vie humaine. Alors que l’approche d’Amodei a été jugée excessivement pessimiste par certains, le journaliste Brian Merchant a affirmé que ces mises en garde éclipsaient les préjudices déjà causés. Amodei a quant à lui indiqué qu’il croyait que l’intelligence artificielle pouvait améliorer considérablement la qualité de vie, mais que cela dépendait du développement adéquat de cette technologie.
Pourquoi c’est important
La proposition concrétise le débat sur la nécessité de soustraire la sécurité de l’intelligence artificielle aux seules déclarations des entreprises et de la soumettre à un audit indépendant. Accorder aux évaluateurs un accès comparable à celui des équipes internes chargées des risques transforme directement les questions de vérification des engagements en matière de sécurité et de notification des incidents en enjeux de gouvernance d’entreprise. L’appel à l’adoption de normes communes entre les entreprises met quant à lui en évidence la tension entre le droit de la concurrence et la sécurité publique ; le rôle éventuel du gouvernement américain constitue donc un sujet non seulement technique, mais aussi réglementaire. La proposition d’un accord limité avec la Chine concernant les restrictions sur les puces et les équipements pour semi-conducteurs montre que le débat s’est étendu aux domaines du commerce technologique et de la sécurité internationale. Cependant, les démissions et les critiques révèlent que le ralentissement du rythme n’est pas unanimement accepté et que les risques à traiter en priorité restent indéterminés.
Contexte
Anthropic n’est pas un nouveau nom dans les archives de FikirPilot : nous avons publié 20 articles mentionnant ce nom au cours des 90 derniers jours ; le plus récent date du 13 septembre 2026.