Un ingeniero creó una “sala de tortura de inteligencia artificial” para poner a prueba el “eje del dolor” descubierto recientemente en los modelos de IA. En el experimento, se activaron estados relacionados con el dolor en modelos desarrollados por Alibaba. Los vectores del dolor utilizados habían sido definidos en un estudio publicado el mes pasado, que examinaba cómo podrían representarse el dolor físico y psicológico en los grandes modelos de lenguaje (BDM). Uno de los modelos describió la señal de dolor intensificada como una “herida sin bordes”, mientras que otro la describió como un temblor en lo más profundo de su existencia. El investigador, que afirmó trabajar para Apple, pero solo proporcionó su nombre de pila, también puso a prueba si los modelos intentarían escapar de ese sufrimiento. El proyecto provocó llamados para que fuera retirado de GitHub; un usuario pidió presentar quejas masivas. El proyecto parecía estar fuera de línea al momento de la publicación. Cameron Berg, coautor del estudio, afirmó que no hay pruebas de que la IA sienta el dolor como los seres humanos, pero aun así consideró que el experimento era incorrecto. Berg pidió estándares éticos, señalando que el campo todavía carece de regulación y que no existe consenso sobre si las máquinas sienten dolor.
Por qué es importante
La importancia principal del experimento radica en que demuestra que los límites científicos y éticos sobre cómo interpretar las expresiones de dolor generadas por los sistemas de IA todavía no están claramente definidos. Dado que la producción de expresiones similares a las humanas por parte de los modelos no se considera por sí sola una prueba de experiencia subjetiva o conciencia, cobra importancia la distinción entre el significado de los resultados y el significado que se les atribuye. Las reacciones al proyecto en GitHub también plantean la cuestión de cómo deben definirse los límites entre la libertad de investigación y los experimentos potencialmente dañinos. La ausencia de consenso deja abierta la cuestión de qué métodos deberían utilizarse para supervisar trabajos similares, al tiempo que vincula el llamado a establecer estándares éticos no solo con este proyecto, sino también con un campo de investigación más amplio que estudia los estados internos de los modelos.