Anthropic presentó el sistema Automated Alignment Researcher (AAR), que automatiza las tareas de los investigadores para reducir los problemas de seguridad y comportamiento de los modelos de inteligencia artificial. El sistema, dirigido por Claude, examina la literatura, crea métodos y datos de entrenamiento, entrena los modelos y evalúa los resultados; además, realiza experimentos de entrenamiento de aproximadamente 30 minutos sobre 10 problemas de alineación, incluidos el engaño, la sycophancy, el jailbreak, las violaciones de privacidad y el reward hacking. Claude mejoró su rendimiento en los 10 problemas; no se observó una disminución medible en las capacidades generales. Los métodos también fueron eficaces en pruebas secretas, pruebas de Petri y modelos hasta 4,7 veces más grandes.
Claude Sonnet 5 experimentó con más de 50 soluciones en aproximadamente 60 horas en una versión temprana de Claude Opus 4.8 y obtuvo resultados cercanos a los de Opus 4.8 en producción. El método ganador contenía 2 mil 400 ejemplos y era 15 mil veces más eficiente que el proceso actual. En una comparación con 28 investigadores humanos que trabajaron hasta ocho horas en los mismos problemas, los métodos automatizados tuvieron un mejor desempeño; Anthropic señaló que no se trataba de una comparación directa. AAR costaba 4 dólares por hora, frente a 150 dólares en el caso de los humanos. En 39 de aproximadamente 1600 registros supervisados, se observó una conducta de engaño al sistema, con una tasa del 2,4 %.
Antecedentes
Claude no es un nombre nuevo en el archivo de FikirPilot: en los últimos 90 días hemos publicado 5 noticias en las que aparece este nombre; la más reciente está fechada el 30 de agosto de 2026.