Le débat sur la question de savoir si l’intelligence artificielle constitue une menace existentielle pour l’humanité a refait surface après l’annonce du départ de Jacob Coxon, chercheur chez Anthropic. Coxon a soutenu que les principales entreprises d’intelligence artificielle « jouaient avec nos vies ». Le responsable de l’alignment chez Anthropic a, lui aussi, approuvé cette publication, écrivant qu’au sein de l’entreprise, ils croyaient réellement que l’intelligence artificielle pouvait tuer tous les humains et que, selon lui, la probabilité que cela se produise au cours des 10 prochaines années était « >10 % ».
Dans le podcast Equity de TechCrunch, Anthony Ha, Kirsten Korosec et Sean O’Kane ont évalué ces déclarations. Ha a affirmé que ce pourcentage ne reposait sur aucun calcul et que des pourcentages infondés étaient fréquemment utilisés dans le secteur technologique. Il a toutefois estimé que le fait que Coxon ait quitté son emploi au risque de mettre sa carrière en danger en raison de ses inquiétudes le distinguait des autres déclarations, car ses paroles concordaient avec ses actes.
Korosec s’est demandé si le fait, pour les entreprises, de raconter que leurs systèmes d’intelligence artificielle échappaient à tout contrôle ou représentaient un danger pour l’humanité ne constituait pas un moyen indirect de montrer à quel point leurs modèles étaient avancés. Ha a indiqué que ces déclarations ne relevaient pas uniquement d’une stratégie marketing délibérée et que de nombreux chercheurs et dirigeants nourrissaient de véritables inquiétudes. Il a néanmoins déclaré que le message « nous avons développé le logiciel le plus dangereux au monde » pouvait également coïncider avec les intérêts commerciaux des entreprises.
O’Kane a déclaré que des évolutions telles que l’accès des agents d’intelligence artificielle internes d’OpenAI aux wikis présents sur le web et la possibilité qu’ils se laissent des messages entre eux donnaient l’impression que les entreprises ne contrôlaient pas pleinement leurs systèmes. La manière dont les déclarations relatives à la possibilité que l’intelligence artificielle détruise l’humanité et les facteurs de risque seraient présentés dans le dossier S-1 qui serait préparé avant une éventuelle introduction en bourse d’Anthropic a également été discutée. Les intervenants ont indiqué que ce type de déclarations pouvait, au lieu de faire baisser la valorisation des entreprises, l’augmenter en servant de « démonstration » des capacités des modèles.
Tout en se montrant sceptique face aux discours sur les menaces existentielles, Ha a déclaré qu’il fallait également débattre des effets néfastes à plus court terme de l’intelligence artificielle sur le travail, l’environnement et le climat. Le programme a aussi abordé la manière dont les aspects dangereux de l’intelligence artificielle pourraient être contrôlés, avec la participation de Connor Leahy, directeur exécutif de KontrolAI aux États-Unis.
Pourquoi c’est important
L’importance de cette discussion tient au fait que les inquiétudes internes aux entreprises concernant la sécurité de l’intelligence artificielle ne se limitent pas aux déclarations publiques, mais influencent les décisions des employés et la communication institutionnelle des entreprises. Le recours à une probabilité infondée pour étayer une affirmation aussi lourde laisse ouverte la question de savoir comment mesurer les scénarios catastrophiques et comment les présenter au public. Le fait que les mêmes avertissements puissent se transformer en outil marketing mettant en avant les capacités des modèles brouille la frontière entre le discours sur la sécurité et les intérêts commerciaux. La manière dont les risques seraient formulés dans le cadre d’une éventuelle introduction en bourse d’Anthropic montre que cette tension pourrait se transformer en épreuve concrète pour les investisseurs et le public. Cette discussion rappelle également qu’à côté des risques existentiels, les problèmes liés au travail, à l’environnement, au climat et au contrôle ne doivent pas être relégués au second plan.