El Panel Científico Internacional Independiente sobre Inteligencia Artificial de las Naciones Unidas informó de que las medidas de seguridad no deben aplazarse hasta comprender los riesgos de los agentes avanzados de inteligencia artificial. La evaluación temática del panel, creado el año pasado, examina los problemas de control y seguridad tras el ataque contra Hugging Face, relacionado con OpenAI y conocido a principios de este año. Según el informe, los gobiernos deben tomar medidas tempranas en lugar de esperar a que ocurran incidentes; la incertidumbre científica no debe retrasar la regulación. A medida que se amplían las capacidades de los agentes autónomos y semiautónomos, deben reforzarse la coordinación internacional, los principios comunes de seguridad y responsabilidad, y deben destinarse recursos a los mecanismos de seguridad y rendición de cuentas. En la evaluación publicada durante el periodo de la Asamblea General de la ONU en Nueva York, António Guterres instó a los países a actuar conjuntamente. Guterres afirmó que la competencia a la baja en los estándares de seguridad es inaceptable. El panel considera la pérdida de control un riesgo incierto, pero con consecuencias graves.
Por qué es importante
La cuestión central de la evaluación es si las decisiones de seguridad pueden aplazarse hasta contar con pruebas científicas concluyentes, mientras se amplían las capacidades de los agentes de inteligencia artificial. Este marco sitúa la gobernanza de la inteligencia artificial no solo como una cuestión de progreso técnico, sino también de medidas tempranas, estándares comunes y reparto de responsabilidades. Las recomendaciones sitúan en el centro de la coordinación internacional la cuestión de cómo armonizar los distintos enfoques de seguridad de los países en materia de control, asignación de recursos y rendición de cuentas. Sin embargo, la incertidumbre sobre el riesgo de pérdida de control deja abiertas las preguntas de en qué umbral deben hacerse obligatorias determinadas medidas y cómo debe distribuirse la responsabilidad por las consecuencias graves.
Término: agente
Un agente de inteligencia artificial es un software que, en lugar de producir una única respuesta, invoca herramientas y ejecuta tareas en varios pasos para alcanzar un objetivo.