Dario Amodei, CEO d’Anthropic, a publié un texte d’environ 4 000 mots dans lequel il défend l’idée que le développement de l’intelligence artificielle devrait être ralenti jusqu’à ce que des mesures de sécurité soient mises en place. Son plan appelait également à une coopération internationale entre les entreprises et les gouvernements pour une mise en œuvre sûre. Sam Altman, CEO d’OpenAI, et Elon Musk, CEO de xAI, ont soutenu ce plan.
Le CEO de Meta, Mark Zuckerberg, a pour sa part déclaré que la confiance et l’alignement sont devenus déterminants dans les systèmes d’intelligence artificielle. Zuckerberg, qui a annoncé que Meta avait reporté de quelques mois la publication de son propre modèle d’intelligence artificielle Muse en raison de préoccupations de sécurité et de sûreté, a indiqué que les entreprises pouvaient aussi le faire sans contrainte de l’État. Zuckerberg n’a soutenu que certaines parties du plan d’Amodei et a mis en avant l’idée que la sécurité pouvait être assurée grâce aux propres incitations du secteur plutôt qu’à une intervention gouvernementale.
Alexis Ohanian, cofondateur de Reddit, a déclaré que le secteur n’avait pas suffisamment réussi à expliquer les risques de l’intelligence artificielle au public ; il a toutefois exprimé l’espoir que les entreprises puissent résoudre les problèmes par elles-mêmes. Shane Legg, cofondateur de Google DeepMind, a quant à lui appelé à travailler sur les détails de la mise en œuvre, affirmant que les capacités ne devraient pas prendre le pas sur la sécurité.
Il a été rapporté qu’OpenAI, Anthropic et d’autres grandes entreprises d’intelligence artificielle discutaient de la création d’un organisme privé de normalisation fondé sur des engagements volontaires. Une structure fédérale similaire avait déjà été proposée. Toutefois, l’administration Trump a défendu l’idée que la réglementation devrait être laissée aux entreprises, tout en tentant d’empêcher les États d’adopter leurs propres lois sur l’intelligence artificielle. David Sacks, le « AI czar » de l’administration, a également soutenu ce point de vue. Le président de la Chambre des représentants, Mike Johnson, a quant à lui fait une déclaration minimisant les inquiétudes liées aux conséquences catastrophiques de l’intelligence artificielle.
Le fait qu’un organisme privé d’autorégulation définisse les règles sur la base de normes volontaires et accorde davantage de pouvoir aux grandes entreprises a renforcé le débat sur la « capture des autorités de régulation ». Selon ce point de vue, les grandes entreprises pourraient utiliser les normes de manière à désavantager leurs concurrentes plus petites et disposant de moins de ressources.
Le porte-parole du ministère chinois des Affaires étrangères, Guo Jiakun, a qualifié les appels d’Amodei de « colportage de la peur » entravant la gouvernance mondiale de l’intelligence artificielle. Amodei a pour sa part écrit que, si ses propositions étaient mises en œuvre, les progrès de la Chine ralentiraient et que les États-Unis pourraient accroître leur avantage dans un délai de 3–5 ans. Le CEO canadien de Cohere, Aidan Gomez, a également accusé les grands laboratoires américains de former un « cartel » ; il a déclaré que le débat portait sur la question de savoir qui rédigerait les règles de sécurité et quels intérêts elles protégerait.
Pourquoi c’est important
Le débat ne porte désormais plus seulement sur la sécurité de l’intelligence artificielle, mais aussi sur l’identité de ceux qui définiront les règles de sécurité. Une structure privée fondée sur des normes volontaires peut permettre une mise en œuvre rapide et une coordination au sein du secteur ; toutefois, le poids des grandes entreprises dans les processus décisionnels renforce la crainte que les règles soient utilisées au détriment des petits concurrents. La distinction entre l’approche opposée à l’intervention de l’État et l’appel à la coopération internationale laisse ouverte la question de savoir si la sécurité sera laissée aux incitations des entreprises ou à l’autorité publique. Les critiques de la Chine et l’objectif des États-Unis de préserver leur avantage font que le débat sur la sécurité ne peut plus être dissocié de la concurrence mondiale. L’incertitude persiste donc à la fois quant à l’étendue de la réglementation et à la manière dont les engagements volontaires des entreprises seront contrôlés.