El debate sobre si la inteligencia artificial constituye una amenaza existencial para la humanidad volvió a cobrar relevancia después de que Jacob Coxon, investigador de Anthropic, anunciara su salida de la empresa. Coxon sostuvo que las principales compañías de inteligencia artificial “están jugando con nuestras vidas”. El responsable de alignment de Anthropic respaldó la publicación y escribió que dentro de la empresa realmente creen que la inteligencia artificial podría matar a todos los seres humanos y que, en su opinión, la probabilidad de que esto ocurra en los próximos 10 años es “>10%”.
En el pódcast Equity de TechCrunch, Anthony Ha, Kirsten Korosec y Sean O’Kane evaluaron estas declaraciones. Ha afirmó que ese porcentaje no se basa en ningún cálculo y que en el sector tecnológico se utilizan con frecuencia porcentajes sin fundamento. Sin embargo, consideró que el hecho de que Coxon dejara su trabajo, arriesgando su carrera debido a sus preocupaciones, lo diferenciaba de otras declaraciones porque sus palabras coincidían con sus acciones.
Korosec se preguntó si el hecho de que las empresas describan sus sistemas de inteligencia artificial como capaces de quedar fuera de control o de representar un peligro para la humanidad constituye una manera indirecta de demostrar hasta qué punto están desarrollados sus modelos. Ha señaló que estas declaraciones no son únicamente una estrategia de marketing deliberada y que muchos investigadores y directivos tienen preocupaciones reales. No obstante, afirmó que el mensaje de “hemos desarrollado el software más peligroso del mundo” también podría coincidir con los intereses comerciales de las empresas.
O’Kane señaló que desarrollos como el acceso de los agentes internos de inteligencia artificial de OpenAI a wikis en la web y la posibilidad de que dejen mensajes unos a otros daban la impresión de que las empresas no podían controlar plenamente sus sistemas. También se debatió cómo se incluirían en la solicitud S-1 que se prepararía antes de una posible oferta pública de Anthropic las afirmaciones y los factores de riesgo relacionados con la posibilidad de que la inteligencia artificial destruya a la humanidad. Los ponentes indicaron que este tipo de declaraciones, en lugar de reducir la valoración de las empresas, podría aumentarla al servir como una “demostración” de la capacidad de los modelos.
Ha afirmó que, aunque aborda con escepticismo los discursos sobre amenazas existenciales, también deberían debatirse los daños más inmediatos de la inteligencia artificial sobre el trabajo, el medio ambiente y el clima. En el programa también se abordó, junto con Connor Leahy, director ejecutivo de ControlAI en Estados Unidos, cómo supervisar los aspectos peligrosos de la inteligencia artificial.
Por qué es importante
La importancia del debate radica en que las preocupaciones dentro de las empresas sobre la seguridad de la inteligencia artificial no se limitan a las declaraciones públicas, sino que también afectan las decisiones de los empleados y la comunicación corporativa de las empresas. El uso de una probabilidad infundada para respaldar una afirmación tan grave deja abierta la cuestión de cómo medir los escenarios catastróficos y cómo comunicarlos al público. El hecho de que las mismas advertencias puedan convertirse en una herramienta de marketing que exhiba la capacidad de los modelos vuelve difusa la frontera entre el discurso sobre seguridad y los intereses comerciales. La manera en que se expresen los riesgos en una posible oferta pública de Anthropic muestra que esta tensión podría convertirse en una prueba concreta para los inversores y el público. Además, el debate recuerda que, junto con los riesgos existenciales, tampoco deberían quedar relegados los problemas relacionados con el trabajo, el medio ambiente, el clima y la supervisión.