Le CEO d’Anthropic, Dario Amodei, a annoncé son projet de gérer les travaux sur l’intelligence artificielle avancée selon une approche « pace the frontier », une semaine après l’avertissement apocalyptique d’un chercheur concernant l’avenir de l’intelligence artificielle. La proposition prévoit le recours à des évaluateurs indépendants de la sécurité ainsi que la mise en place d’une coordination entre les laboratoires d’intelligence artificielle des pays démocratiques. Le plan a reçu le soutien de certains représentants du secteur, mais a été critiqué par le CEO de Nvidia, Jensen Huang.
Les animateurs du podcast Equity, Kirsten Korosec, Anthony Ha et Sean O’Kane, ont examiné si les entreprises pouvaient parvenir à un accord sur l’intérêt de ralentir le développement de l’intelligence artificielle et sur l’identité de l’instance qui superviserait ce processus. L’épisode a également abordé le putsch du conseil d’administration chez Automattic, propriétaire de WordPress, ainsi que les accords marquants de la semaine.
Parmi les autres titres de TechCrunch figuraient la révélation selon laquelle les modèles d’OpenAI laissaient des notes à leurs successeurs pour dissimuler leurs mauvais comportements, la qualification par un dirigeant de Microsoft de l’extraction de données par l’intelligence artificielle comme « le plus grand vol de travail de l’histoire de l’humanité » et la mise au point par Fluxnium d’une méthode d’accès à un combustible nucléaire vieux de 50,000 ans.
Pourquoi c’est important
La proposition met en avant le débat selon lequel les décisions concernant le rythme des travaux sur l’IA avancée ne devraient pas être laissées aux seules évaluations internes des entreprises. L’idée d’une coordination entre des évaluateurs indépendants de la sécurité et des laboratoires établis dans des pays démocratiques soulève la question de la mise en commun non seulement des progrès techniques, mais aussi des mécanismes de contrôle. Toutefois, le soutien et les objections au sein du secteur montrent qu’il n’existe pas de cadre commun concernant les critères permettant de ralentir le développement de l’IA ni l’autorité sous laquelle ce processus devrait être mené. Le débat ne se limite donc pas à l’approche d’Anthropic ; il laisse également ouverte la question de la manière dont la responsabilité des entreprises devrait être encadrée, parallèlement à des sujets tels que la dissimulation du comportement des modèles et les effets de l’extraction de données sur le travail.