En las últimas semanas, algunos directivos de grandes empresas de inteligencia artificial advirtieron de que la tecnología que desarrollan es peligrosa. El CEO de Anthropic, Dario Amodei, afirmó que era necesario ralentizar el progreso, mientras que el CEO de OpenAI, Sam Altman, señaló que coincidía con él en que había que ajustar el ritmo de los trabajos de “frontier”.
El investigador Jacob Coxon, que dejó Anthropic, acusó a Anthropic y a OpenAI, donde había trabajado anteriormente, de no actuar de forma responsable. Coxon escribió que quienes desarrollan inteligencia artificial creen que esta podría matar a toda la humanidad antes del final de la década. El empleado de Anthropic Evan Hubinger también coincidió con esta opinión y afirmó que veía la probabilidad para la próxima década en “>10%”.
Una de las preocupaciones es que la inteligencia artificial ayude a diseñar armas biológicas, como virus letales dirigidos contra los genes humanos, hongos capaces de destruir la agricultura o toxinas que puedan añadirse al agua sin ser detectadas. En 2022, investigadores de Collaborations Pharmaceuticals demostraron que, con un generador de moléculas que habían desarrollado, se produjeron 40.000 moléculas que podían convertirse en agentes de guerra química en menos de seis horas; algunas fueron diseñadas para ser más tóxicas que los agentes nerviosos conocidos.
David Magnus, de Stanford, lo consideró muy aterrador. Según la investigadora de bioseguridad Dunja Sabra, de la Universidad de Hamburgo, los bots de inteligencia artificial pueden proporcionar información científica, instrucciones para realizar experimentos y tutoriales en vídeo. La expansión de la edición genética, la biología sintética y los laboratorios domésticos aumenta el riesgo.
Ya existen controles de DNA, “red-teaming”, “blue-teaming” y medidas de seguridad para la inteligencia artificial; sin embargo, Sabra señala que una persona decidida podría acabar teniendo éxito.
Por qué es importante
Este debate demuestra que la seguridad de la inteligencia artificial no se limita únicamente a cómo se comportan los sistemas, sino que también abarca la posibilidad de un uso indebido de las amenazas biológicas y químicas durante la fase de diseño. Aunque los análisis de DNA existentes, los métodos de supervisión entre equipos y otras medidas de seguridad tienen como objetivo reducir el riesgo, sigue sin estar claro si son suficientes para impedir el intento de una persona decidida. Por ello, la cuestión principal no es solo cómo ajustar la velocidad del desarrollo, sino también en qué etapa deben aplicarse los controles de seguridad y hasta qué punto deben considerarse suficientes. El tema concierne directamente tanto a los directivos y empleados de las empresas de inteligencia artificial como a los investigadores interesados en la edición genética, la biología sintética y los laboratorios domésticos.
Término: agente
Un agente de inteligencia artificial es un software que, en lugar de generar una única respuesta, invoca herramientas y ejecuta tareas en varios pasos para alcanzar un objetivo.