La facilidad que ofrecen las herramientas de inteligencia artificial para rellenar formularios y preparar solicitudes de reclamación está provocando aumentos significativos en las demandas dirigidas a los servicios públicos. En el Reino Unido, las reclamaciones presentadas ante el defensor del pueblo de la vivienda pasaron de las 2,600 de 2022 a algo más de 7,000 el año pasado, desde que empezó a utilizarse ChatGPT. Las reclamaciones ante la Oficina para la Protección Financiera del Consumidor de Estados Unidos (CFPB) también aumentaron 5x durante el mismo periodo. Asimismo, se observaron incrementos similares en las peticiones judiciales en Brasil y en las peticiones parlamentarias en Alemania.
El investigador Chris Schmitz analiza esta tendencia, a la que denomina “agentic flooding”, en un estudio que presentará el próximo mes en la conferencia AI Ethics and Society. Tras evaluar 84 posibles casos de desbordamiento en 11 jurisdicciones, Schmitz señala que existen amplias pruebas de que las herramientas de inteligencia artificial están cambiando la forma en que las personas interactúan con los servicios públicos. Por razones metodológicas, el estudio no afirma de manera concluyente que el aumento se deba directamente a la inteligencia artificial. Sin embargo, en la mayoría de los casos, las solicitudes se mantuvieron estables antes de 2022, pero comenzaron a aumentar con rapidez a medida que se extendió la inteligencia artificial, y en la mayoría de ellos el incremento aún no se ha ralentizado.
Aunque una parte de las nuevas solicitudes podría ser intencionada, Schmitz afirma que la mayoría son demandas legítimas presentadas por personas reales. La inteligencia artificial puede facilitar el acceso de las personas a las prestaciones sociales o los servicios a los que tienen derecho al reducir la “carga administrativa” que antes dificultaba la presentación de solicitudes. Por ello, esta evolución podría constituir una oportunidad para rediseñar los servicios públicos de cara a la era de la inteligencia artificial.
Schmitz señala que los sistemas en línea de los servicios públicos pueden utilizarse con un asistente de inteligencia artificial. Aunque reconoce que podría surgir un problema de recursos similar al de los programas de recompensas por errores, cuya carga aumentó el año pasado debido a informes de baja calidad generados por inteligencia artificial, subraya que la mayoría de las solicitudes públicas contienen demandas válidas. Según su evaluación, se está entrando en una etapa en la que es necesario replantear los procesos.
Por qué es importante
Esta evolución exige que las instituciones públicas no solo tramiten un mayor número de solicitudes, sino que también aborden conjuntamente los obstáculos administrativos para acceder a la solicitud y los procesos de evaluación. Que las personas que antes tenían dificultades para preparar una solicitud puedan incorporarse al sistema podría generar un resultado positivo en el acceso a las ayudas y los servicios sociales; sin embargo, el aumento del volumen también incrementa la carga de las instituciones para distinguir las demandas legítimas de las solicitudes intencionadas o de baja calidad. Aunque los hallazgos se basan en 84 casos de 11 jurisdicciones, la causalidad entre el aumento y el uso de la inteligencia artificial no está establecida de manera concluyente. Por ello, la pregunta abierta es cómo gestionarán los sistemas públicos un aumento permanente del número de solicitudes sin excluir a quienes tienen derecho ni consumir los recursos de manera ineficiente.