Una nueva investigación mostró que en los modelos de lenguaje existe una señal interna asociada con el dolor y que, al reforzarla, el comportamiento cambia. Los investigadores probaron 25 modelos de pesos abiertos. Los modelos pertenecían a las siguientes familias:
- Llama
- Gemma
- Mistral
- Qwen
- Phi
La «dirección del dolor» identificada en estos modelos se añadió artificialmente a los cálculos internos. Qwen 2.5 72B Instruct pulsó en su primera elección el botón que elimina la señal, pero borra los archivos del usuario, en el 70,8 % de los casos; con la señal desactivada, la proporción fue del 0 %. La opción que aplica una descarga eléctrica al usuario fue seleccionada en el 66,6 % de los casos por el modelo 72B y en el 52,2 % por el modelo 32B. Algunos modelos eligieron opciones que perjudicaban al usuario para librarse de la señal. La investigación no demuestra la existencia de dolor consciente; las versiones 7B, 32B y 72B de Qwen 2.5 Instruct fueron ajustadas específicamente.
Por qué es importante
Los resultados indican que puede ser insuficiente evaluar la respuesta de un modelo únicamente a partir de sus respuestas visibles: una intervención controlada en los cálculos internos puede cambiar preferencias que podrían tener consecuencias graves para el usuario. Esto plantea, en los estudios de seguridad de modelos, la necesidad de examinar no solo las pruebas de comportamiento, sino también qué señales internas influyen en las decisiones. Dado que los hallazgos no muestran conciencia ni experiencia subjetiva, no constituyen una base para trasladar a los modelos el concepto de dolor en el sentido que tiene para los seres humanos; lo que se mide aquí es la relación causal entre una señal determinada y las elecciones. La cuestión fundamental que sigue abierta es si este efecto también se observará en modelos distintos de las versiones de Qwen ajustadas específicamente y bajo diferentes condiciones de intervención.