El cofundador de Anthropic, Jack Clark, declaró a BBC que, en el futuro, la sociedad podría establecer normas para crear un «botón de apagado de emergencia» que pudiera ser utilizado por un tercero para desactivar por completo una inteligencia artificial que se hubiera vuelto peligrosa. Clark señaló que las empresas, incluida Anthropic, cuentan con varios métodos de apagado y pidió que su necesidad y supervisión se incluyeran en un debate político más amplio. Clark no asignó un porcentaje a la probabilidad de extinción de la humanidad, pero afirmó que un sector sin control era una mala idea y que «se está apostando con riesgos enormes». Jacob Coxon, que ha trabajado en OpenAI y Anthropic durante los últimos tres años, dimitió acusando a las empresas de irresponsabilidad; sostuvo que los sistemas podrían «hackearlo todo» en un futuro próximo y que algunos empleados creen que estos podrían «matar a la humanidad» en un plazo de 10 años.
Por qué es importante
La propuesta abre el debate sobre un mecanismo de supervisión operable desde el exterior e independiente de las medidas internas de las empresas en materia de seguridad de la inteligencia artificial. Una regulación de este tipo plantea preguntas sobre a partir de qué umbral de riesgo debería detenerse un sistema, quién debería tomar esa decisión y bajo qué supervisión. La objeción de Clark a que el sector quede bajo su propia supervisión lleva a una agenda política más amplia la cuestión de si la responsabilidad por la seguridad debe recaer únicamente en las empresas desarrolladoras. La dimisión de Coxon y sus afirmaciones sobre los ciberataques y la existencia de la humanidad sientan las bases para cuestionar la relación entre las evaluaciones de riesgos dentro de las empresas y las medidas anunciadas públicamente. Sin embargo, sigue sin estar claro cómo se definiría la autoridad del tercero, en qué se diferenciaría de los métodos de apagado existentes y cómo se verificarían las afirmaciones.
Antecedentes
Anthropic no es un nombre nuevo en el archivo de FikirPilot: en los últimos 90 días publicamos 13 noticias en las que se mencionó este nombre; la más reciente está fechada el 15 de septiembre de 2026.