La simplification du remplissage des formulaires et de la préparation des demandes de plainte par les outils d’intelligence artificielle entraîne des hausses marquées des demandes adressées aux services publics. Au Royaume-Uni, les plaintes déposées auprès de l’ombudsman du logement sont passées de 2,600 en 2022 à un peu plus de 7,000 l’année dernière, depuis le début de l’utilisation de ChatGPT. Les plaintes adressées au Bureau de protection financière des consommateurs des États-Unis (CFPB) ont également été multipliées par 5x au cours de la même période. Des hausses similaires ont été observées dans les requêtes judiciaires au Brésil et les pétitions parlementaires en Allemagne.
Le chercheur Chris Schmitz étudie cette tendance, qu’il qualifie de « agentic flooding », dans un travail qui sera présenté le mois prochain à la conférence AI Ethics and Society. Après avoir évalué 84 cas potentiels de saturation dans 11 juridictions, Schmitz affirme disposer de nombreuses preuves que les outils d’intelligence artificielle modifient la manière dont les citoyens interagissent avec les services publics. Pour des raisons méthodologiques, l’étude n’affirme pas avec certitude que la hausse est directement due à l’intelligence artificielle. Cependant, dans la plupart des cas, les demandes sont restées stables avant 2022, puis ont augmenté rapidement avec la diffusion de l’intelligence artificielle, et la hausse ne s’est pas encore ralentie dans la majorité d’entre eux.
Si une partie des nouvelles demandes peut être intentionnelle, Schmitz affirme que la plupart sont des requêtes légitimes émanant de personnes réelles. L’intelligence artificielle peut faciliter l’accès des citoyens aux prestations sociales ou aux services auxquels ils ont droit en réduisant la « charge administrative » qui rendait auparavant les démarches plus difficiles. Cette évolution pourrait donc constituer une occasion de repenser les services publics pour l’ère de l’intelligence artificielle.
Schmitz indique que les systèmes en ligne des services publics peuvent être utilisés avec un assistant d’intelligence artificielle. Tout en reconnaissant qu’un problème de ressources similaire à celui des programmes de récompense pour la découverte de bugs, dont la charge a augmenté l’année dernière en raison de rapports de mauvaise qualité générés par l’intelligence artificielle, pourrait se poser, il souligne que la majorité des demandes adressées aux services publics contiennent des requêtes valides. Selon lui, nous entrons dans une période où les processus doivent être repensés.
Pourquoi c’est important
Cette évolution exige des institutions publiques non seulement qu’elles traitent davantage de demandes, mais aussi qu’elles abordent conjointement les obstacles administratifs à l’accès aux demandes et les processus d’évaluation. Le fait que les personnes qui avaient auparavant des difficultés à préparer une demande puissent intégrer le système pourrait avoir un effet positif sur l’accès aux aides et aux services sociaux ; toutefois, l’augmentation du volume accroît également la charge qui incombe aux institutions pour distinguer les demandes légitimes des demandes intentionnelles ou de mauvaise qualité. Alors que les résultats reposent sur 84 cas dans 11 juridictions, le lien de causalité entre l’augmentation et l’utilisation de l’intelligence artificielle n’est pas établi. La question reste donc de savoir comment les systèmes publics géreront une hausse durable du nombre de demandes sans exclure les ayants droit ni gaspiller les ressources.