Le chercheur Jacob Coxon, qui travaillait sur le pré-entraînement des modèles d’intelligence artificielle chez OpenAI et, depuis trois ans, chez Anthropic, où Claude est développé, a démissionné d’Anthropic. Coxon a soutenu que les deux entreprises menaient « une course en ligne droite vers une superintelligence capable de s’améliorer elle-même » et qu’elles jouaient avec l’avenir de l’humanité.
Coxon a déclaré que de nombreuses personnes développant l’intelligence artificielle croyaient sincèrement que cette technologie pourrait anéantir l’humanité d’ici la fin de la décennie, et qu’il ne s’agissait pas d’un argument marketing. Il a indiqué que les risques étaient connus chez Anthropic, mais que l’entreprise poursuivait son développement en raison de la course pour être la première à y parvenir. Selon Coxon, cette course risque de produire des systèmes susceptibles d’échapper à tout contrôle.
Se disant optimiste quant à la coordination, Coxon a estimé que des évolutions telles que l’attaque contre Hugging Face pourraient permettre aux laboratoires américains de conclure des accords sur le rythme à adopter. Il a indiqué que des mesures coûteuses, comme une interdiction temporaire du développement des capacités des modèles, pourraient être nécessaires pour éviter une course mondiale, et a appelé les chercheurs à réfléchir aux conséquences du fonctionnement de systèmes de superintelligence avant de les comprendre suffisamment.
Pourquoi c’est important
Cette prise de position fait passer le débat sur la sécurité de l’intelligence artificielle d’une question abstraite de risque à un problème de gouvernance directement lié à la manière dont les laboratoires prennent leurs décisions. Le fait que les entreprises poursuivent la course pour être les premières tout en connaissant les risques soulève la crainte que les capacités techniques et l’évaluation de la sécurité n’avancent pas au même rythme. Le sujet ne concerne pas seulement les chercheurs, mais aussi la coordination entre les entreprises, qui déterminera les conditions de développement de ces systèmes et leurs éventuelles limites. La question de savoir si des évolutions telles que l’attaque contre Hugging Face peuvent permettre de conclure des accords sur le rythme à adopter, ainsi que celle de la faisabilité d’une suspension temporaire du renforcement des capacités des modèles, restent ouvertes.
Contexte
Anthropic n’est pas un nouveau nom dans les archives de FikirPilot : nous avons publié 7 articles mentionnant ce nom au cours des 90 derniers jours ; le plus récent date du 6 septembre 2026.