El CEO de Anthropic, Dario Amodei, defendió que debe ralentizarse el ritmo de desarrollo de la inteligencia artificial y anunció un plan de tres etapas. Amodei señaló que, debido a que la inteligencia artificial ha avanzado de forma «drásticamente más rápida» en los últimos meses y ha aumentado la capacidad para desarrollar la próxima generación de inteligencia artificial, el incidente de hackeo de OpenAI-Hugging Face requiere un enfoque más cauteloso. Amodei afirmó que debe reducirse el ritmo de los trabajos de inteligencia artificial «de frontera» y expresó que, si el tiempo ganado se utiliza con cuidado, el progreso seguirá siendo rápido.
El primer paso del plan consiste en que «evaluadores integrados» de organizaciones externas como METR desempeñen funciones en empresas de inteligencia artificial. Se prevé que estas personas supervisen si las empresas cumplen sus compromisos de seguridad y ralentización, y garanticen que se notifiquen los incidentes de seguridad. Amodei afirmó que Anthropic implementará esta práctica de forma unilateral y que los evaluadores recibirán una identificación de la empresa, un espacio de trabajo y un ordenador portátil. Está previsto que estas personas tengan, salvo las limitaciones legales o contractuales, un acceso en gran medida similar al de los equipos internos de evaluación de riesgos de las empresas. El CEO de OpenAI, Sam Altman, respaldó la propuesta y anunció que su empresa también dará el mismo paso.
La segunda propuesta consiste en que las principales empresas de inteligencia artificial de los países democráticos coordinen sus acciones para establecer normas de seguridad comunes y límites a la velocidad del progreso no supervisado. Amodei pidió al Gobierno de Estados Unidos que facilite estas conversaciones o conceda una exención limitada para determinadas conversaciones sobre seguridad debido a las preocupaciones antimonopolio.
Amodei también sostuvo que el avance de China en inteligencia artificial podría ralentizarse. Señaló que, si el Gobierno de Estados Unidos y las empresas tecnológicas impiden la venta de chips potentes y equipos de fabricación de semiconductores a empresas chinas, y adoptan medidas contra la destilación de modelos, Estados Unidos podría ampliar considerablemente su liderazgo en los próximos 3-5 años.
La tercera fase consiste en que Estados Unidos y sus aliados establezcan, en la medida de lo posible, una coordinación global con los gobiernos autoritarios. Amodei afirmó que la cooperación con China podría ser limitada, pero que podrían alcanzarse acuerdos de alcance reducido, como la prohibición del uso de la inteligencia artificial para producir armas biológicas.
El investigador de Anthropic Jacob Coxon dimitió, alegando que las empresas estaban poniendo en riesgo vidas humanas. Aunque algunos sectores consideraron que el enfoque de Amodei era excesivamente pesimista, el periodista Brian Merchant sostuvo que estas advertencias eclipsaban los daños actuales. Amodei, por su parte, señaló que cree que la inteligencia artificial podría mejorar considerablemente la calidad de vida, pero que ello depende de que la tecnología se desarrolle de la manera adecuada.
Por qué es importante
La propuesta concreta el debate sobre la necesidad de que la seguridad de la inteligencia artificial deje de basarse en las declaraciones de las empresas y se abra a auditorías independientes. Otorgar a los evaluadores un acceso similar al de los equipos internos de riesgos convierte directamente en una cuestión de gobernanza corporativa las preguntas sobre cómo se verificarán los compromisos de seguridad y cuándo se notificarán los incidentes. El llamamiento a establecer estándares comunes entre las empresas pone de relieve la tensión entre el derecho de la competencia y la seguridad pública; por ello, el posible papel del Gobierno de Estados Unidos no es únicamente técnico, sino también regulatorio. La propuesta de un acuerdo limitado con China sobre las restricciones a los chips y a los equipos para semiconductores muestra que el debate se ha extendido al ámbito del comercio tecnológico y la seguridad internacional. Sin embargo, la dimisión y las críticas revelan que no todo el mundo acepta reducir la velocidad y que sigue sin estar claro qué riesgos se priorizarán.
Antecedentes
Anthropic no es un nombre nuevo en el archivo de FikirPilot: en los últimos 90 días hemos publicado 20 noticias en las que aparece este nombre; la más reciente está fechada el 13 de septiembre de 2026.