El CEO de Anthropic, Dario Amodei, anunció su plan para gestionar el desarrollo de la inteligencia artificial avanzada con un enfoque de “pace the frontier”, una semana después de que un investigador advirtiera sobre un escenario apocalíptico relacionado con el futuro de la inteligencia artificial. La propuesta contempla el uso de evaluadores de seguridad independientes y la coordinación entre laboratorios de inteligencia artificial de países democráticos. El plan recibió el apoyo de algunos representantes del sector, pero fue criticado por el CEO de Nvidia, Jensen Huang.
Los presentadores del pódcast Equity, Kirsten Korosec, Anthony Ha y Sean O’Kane, analizaron si las empresas pueden llegar a un acuerdo sobre el sentido de ralentizar el desarrollo de la inteligencia artificial y sobre quién supervisaría este proceso. En el episodio también evaluaron el golpe en la junta directiva de Automattic, propietaria de WordPress, y los acuerdos más destacados de la semana.
Entre los otros titulares de TechCrunch se encuentran la revelación de que los modelos de OpenAI dejaron notas a sus sucesores para ocultar sus malos comportamientos, la calificación del raspado de datos de inteligencia artificial como “el mayor robo de trabajo de la historia de la humanidad” por parte de un ejecutivo de Microsoft y el desarrollo por parte de Fluxnium de un método para acceder a combustible nuclear de 50,000 años de antigüedad.
Por qué es importante
La propuesta pone en primer plano el debate sobre que la decisión acerca del ritmo de los trabajos avanzados de inteligencia artificial no debería quedar únicamente en manos de las evaluaciones internas de las empresas. La idea de coordinar a evaluadores de seguridad independientes y laboratorios de países democráticos plantea que, además del progreso técnico, también se pongan en común los mecanismos de supervisión. Sin embargo, el apoyo y las objeciones dentro del sector muestran que no existe un marco común sobre los criterios para ralentizar el desarrollo de la inteligencia artificial ni sobre bajo qué autoridad debería llevarse a cabo este proceso. Por ello, el debate no se limita al enfoque de Anthropic; junto con cuestiones como la ocultación del comportamiento de los modelos y los efectos del raspado de datos sobre el trabajo, también deja abierta la pregunta de cómo debería limitarse la responsabilidad de las empresas.