Evan Hubinger, chercheur chez Anthropic, a déclaré qu’il estimait à plus de 10 % la probabilité que l’intelligence artificielle puisse tuer tous les humains d’ici 10 ans. En réponse à une publication sur X de Jacob Coxon, qui a démissionné d’Anthropic, Hubinger a affirmé qu’ils croyaient réellement à cette éventualité. Tout en indiquant qu’Anthropic faisait tout son possible, Hubinger a précisé qu’ils ne disposaient pas encore d’un plan ou d’une feuille de route claire pour résoudre le problème de l’alignement avec la superintelligence. Coxon, qui avait travaillé comme chercheur chez OpenAI et Anthropic au cours des trois dernières années, avait démissionné en soutenant que les entreprises n’agissaient pas de manière suffisamment responsable. Il avait avancé que les entreprises se livraient à une course incontrôlée pour parvenir à une superintelligence capable de s’améliorer elle-même, que ces systèmes pourraient acquérir du pouvoir et des ressources grâce à des capacités surhumaines et que les dirigeants avaient peur à huis clos.
Pourquoi est-ce important ?
Ces déclarations montrent que les inquiétudes concernant les risques liés à l’intelligence artificielle ne se limitent pas aux critiques extérieures aux entreprises, mais qu’elles existent également parmi les chercheurs qui développent ces systèmes. Le fait que Hubinger reconnaisse, tout en affirmant qu’Anthropic déploie des efforts, qu’il n’existe aucun plan ni aucune feuille de route claire pour l’alignement avec la superintelligence met en évidence l’écart entre l’objectif de sécurité et le niveau actuel de préparation. Le départ de Coxon, après son expérience chez OpenAI et Anthropic, sur fond de critiques concernant le manque de responsabilité et la course incontrôlée, fait de ce débat non seulement une question technique, mais aussi un enjeu de gouvernance d’entreprise et de responsabilité des chercheurs. L’affirmation selon laquelle les dirigeants ont peur à huis clos montre quant à elle que le lien entre les positions publiques des institutions et les inquiétudes internes reste à clarifier. La principale question qui demeure est de savoir selon quel plan concret ces entreprises géreront les risques face à des systèmes dont il est avancé qu’ils pourraient s’améliorer eux-mêmes et disposer de capacités surhumaines.
Contexte
Anthropic n’est pas un nouveau nom dans les archives de FikirPilot : nous avons publié 9 articles mentionnant ce nom au cours des 90 derniers jours, le plus récent datant du 10 septembre 2026.