El investigador Jacob Coxon, que trabajaba en la formación previa de modelos de inteligencia artificial en OpenAI y en Anthropic, la empresa que desarrolla Claude desde hace tres años, dimitió de Anthropic. Coxon sostuvo que las dos empresas están llevando a cabo “una carrera directa hacia la superinteligencia que se mejora a sí misma” y que están apostando con el futuro de la humanidad.
Coxon afirmó que muchas personas que desarrollan inteligencia artificial creen sinceramente que esta tecnología podría destruir a la humanidad antes del final de la década y que no se trata de una estrategia de marketing. Señaló que en Anthropic se conocen los riesgos, pero que la empresa continúa con el desarrollo debido a la carrera por ser la primera en alcanzar ese objetivo. Coxon afirmó que esta carrera conlleva el riesgo de producir sistemas que podrían quedar fuera de control.
Coxon dijo ser optimista sobre la coordinación y señaló que acontecimientos como el ataque contra Hugging Face podrían hacer posibles acuerdos entre los laboratorios estadounidenses para fijar el ritmo. Indicó que podrían ser necesarias medidas costosas, como una prohibición temporal del desarrollo de las capacidades de los modelos, para evitar la carrera global, y pidió a los investigadores que reflexionaran sobre las consecuencias de poner en funcionamiento sistemas de superinteligencia sin comprenderlos lo suficiente.
Por qué es importante
Esta dimisión traslada el debate sobre la seguridad de la inteligencia artificial de una cuestión abstracta de riesgo a un problema de gobernanza directamente relacionado con la forma en que los laboratorios toman decisiones. El hecho de que las empresas continúen con la carrera por ser las primeras pese a conocer los riesgos suscita preocupación por que la capacidad técnica y la evaluación de seguridad no avancen al mismo ritmo. El asunto no solo afecta a los investigadores, sino también a la coordinación entre empresas que determinará las condiciones de desarrollo de estos sistemas y sus posibles límites. Sigue sin estar claro si acontecimientos como el ataque contra Hugging Face pueden hacer posibles acuerdos para fijar el ritmo y si es viable la propuesta de hacer una pausa temporal en el aumento de las capacidades de los modelos.
Antecedentes
Anthropic no es un nombre nuevo en el archivo de FikirPilot: en los últimos 90 días hemos publicado 7 noticias en las que aparece este nombre; la más reciente está fechada el 6 de septiembre de 2026.