Jack Clark, cofondateur d’Anthropic, a déclaré à la BBC que la société pourrait à l’avenir établir des règles pour un « bouton d’arrêt d’urgence », utilisable par un tiers, qui désactiverait complètement une intelligence artificielle devenue dangereuse. Précisant que les entreprises, dont Anthropic, disposaient de diverses méthodes d’arrêt, Clark a demandé que leur nécessité et leur contrôle soient intégrés au vaste débat politique. Sans avancer de pourcentage quant à la probabilité d’une extinction de l’humanité, Clark a affirmé qu’un secteur incontrôlé était une mauvaise idée et que « nous jouions avec des risques considérables ». Jacob Coxon, qui a travaillé chez OpenAI et Anthropic au cours des trois dernières années, a démissionné en accusant les entreprises d’irresponsabilité ; il a soutenu que les systèmes pourraient « tout pirater » dans un avenir proche et que certains employés pensaient qu’ils pourraient « tuer l’humanité » d’ici 10 ans.
Pourquoi est-ce important ?
Cette proposition ouvre le débat sur un mécanisme de contrôle de la sécurité de l’intelligence artificielle qui pourrait être actionné de l’extérieur, indépendamment des mesures internes prises par les entreprises. Une telle réglementation soulève la question de savoir à partir de quel seuil de risque un système devrait être arrêté, sur décision de qui et sous quelle supervision. L’opposition de Clark à ce que le secteur soit laissé à sa propre surveillance inscrit dans un agenda politique plus large la question de savoir si la responsabilité en matière de sécurité doit incomber uniquement aux entreprises qui développent ces systèmes. La démission de Coxon ainsi que ses affirmations concernant les cyberattaques et l’existence de l’humanité ouvrent la voie à une remise en question du lien entre les évaluations des risques au sein des entreprises et les mesures rendues publiques. Toutefois, la manière dont l’autorité du tiers serait définie, ce qui la distinguerait des méthodes d’arrêt existantes et la façon dont ces affirmations seraient vérifiées restent floues.
Contexte
Anthropic n’est pas un nouveau nom dans les archives de FikirPilot : au cours des 90 derniers jours, nous avons publié 13 articles mentionnant ce nom ; le plus récent est daté du 15 septembre 2026.