Dans le podcast Equity de TechCrunch, Anthony Ha, Kirsten Korosec et Sean O’Kane ont débattu de la question de savoir si le secteur de l’intelligence artificielle était prêt à ralentir son développement ou à progresser de manière plus contrôlée selon une approche visant à « pace the frontier ». Le débat a commencé après le projet du CEO d’Anthropic, Dario Amodei, visant à « pace » les progrès de l’IA de pointe, ainsi que des déclarations similaires du CEO d’OpenAI, Sam Altman. Le CEO de Nvidia, Jensen Huang, a quant à lui soutenu le point de vue du président Donald Trump selon lequel la réaction hostile à l’intelligence artificielle était un « hoax » et qu’aucune réglementation n’était nécessaire.
Sean O’Kane a qualifié de changement important par rapport à leurs évaluations précédentes le soutien d’Anthropic, d’OpenAI et, dans une certaine mesure, d’Elon Musk à l’idée d’un ralentissement. Il a toutefois estimé que le plan présenté par Amodei dans son article de blog ne contenait pas suffisamment de détails sur les causes des risques ni sur ce que le « ralentissement » signifierait concrètement. Anthony Ha a également déclaré que, bien que le consensus qui se formait rapidement autour du plan dans le secteur soit encourageant, il suscitait des doutes quant à la question de savoir s’il s’agissait réellement d’une mesure de ralentissement de grande ampleur.
Kirsten Korosec a indiqué que cette approche concernait en particulier les laboratoires développant des IA de pointe, et a énuméré les principales propositions comme suit :
- Des évaluateurs tiers indépendants travaillant au sein d’entreprises comme Anthropic et OpenAI afin de surveiller les pratiques et les incidents liés à la sécurité de l’intelligence artificielle.
- La mise en place d’une coordination entre les grandes entreprises d’intelligence artificielle des pays démocratiques concernant les normes et les limites de sécurité.
- La mise en place d’une coordination au niveau international.
Korosec a déclaré que le cadre général de ces propositions était connu, mais que les détails restaient flous et qu’il existait également un risque que le consensus se transforme en début de cartel. Il a ajouté que le CEO de Nvidia, Jensen Huang, s’opposait vivement à cette approche.
Selon O’Kane, Huang occupe une position d’intermédiaire importante entre le secteur et l’administration Trump et adopte une attitude favorable aux avancées des entreprises d’intelligence artificielle. Korosec a toutefois soutenu que cette position de Huang était liée à ses intérêts, Nvidia bénéficiant largement de la progression sans restriction de l’intelligence artificielle. Il a également déclaré que les intérêts de Trump et de Huang se recoupaient et que, même si les propositions incluaient des mesures de sécurité, elles n’imposaient clairement pas que l’intelligence artificielle progresse plus lentement qu’aujourd’hui.
Le podcast a également abordé la question de savoir si les réglementations actuelles et le libre marché suffisaient à garantir la sécurité. O’Kane a déclaré que le gouvernement fédéral ne semblait pas disposé à faire appliquer les réglementations et que les préférences des consommateurs ne guidaient pas suffisamment ce marché. Il a soutenu qu’il ne fallait pas s’attendre à ce que les clients passent facilement du Codex d’OpenAI au Claude Code d’Anthropic en cas de problème grave, précisant que les entreprises vendaient davantage de services à des clients institutionnels et bénéficiaient du soutien de capitaux d’investissement.
Pourquoi c’est important
L’importance du débat réside dans le fait qu’il met en avant la question de savoir si la sécurité de l’IA reposera uniquement sur les décisions volontaires des entreprises, ou sur un contrôle indépendant et des normes communes entre les pays. Alors que le cadre proposé concerne en particulier les laboratoires qui développent des IA de pointe, un accord entre ces entreprises sur les mêmes règles pourrait favoriser la coopération en matière de sécurité, mais aussi se transformer en une structure limitant la concurrence. L’approche de Nvidia élargit quant à elle le débat au-delà des limites de la sécurité technique ; il reste incertain de savoir dans quelle mesure les intérêts des entreprises et des pouvoirs publics divergent concernant le rythme de développement de l’IA. La question fondamentale qui demeure est donc de savoir comment fonctionnerait l’évaluation indépendante, quels risques seraient pris en compte selon quels seuils et si les réglementations existantes contraindraient effectivement les entreprises dans la pratique.