El CEO de Anthropic, Dario Amodei, publicó un texto de unas 4.000 palabras en el que defendió que el desarrollo de la inteligencia artificial debe ralentizarse hasta que se adopten medidas de seguridad. Su plan también incluía un llamamiento a la cooperación internacional entre empresas y gobiernos para garantizar un uso seguro. El CEO de OpenAI, Sam Altman, y el CEO de xAI, Elon Musk, apoyaron este plan.
El CEO de Meta, Mark Zuckerberg, afirmó que la confianza y la alineación se han vuelto decisivas en los sistemas de inteligencia artificial. Zuckerberg explicó que Meta había retrasado varios meses el lanzamiento de su propio modelo de inteligencia artificial, Muse, debido a preocupaciones relacionadas con la seguridad, y señaló que las empresas también podrían hacerlo sin la presión del Estado. Zuckerberg apoyó solo algunas partes del plan de Amodei y defendió la idea de que la seguridad puede garantizarse mediante los propios incentivos del sector, en lugar de mediante la intervención gubernamental.
Alexis Ohanian, cofundador de Reddit, afirmó que el sector no ha sido capaz de explicar adecuadamente al público los riesgos de la inteligencia artificial; sin embargo, expresó su esperanza de que las empresas puedan resolver los problemas por sí mismas. Shane Legg, cofundador de Google DeepMind, pidió que se trabajen los detalles de la aplicación y señaló que las capacidades no deben anteponerse a la seguridad.
Según se informó, OpenAI, Anthropic y otras grandes empresas de inteligencia artificial están negociando la creación de un organismo privado de estándares basado en compromisos voluntarios. Anteriormente se había propuesto una estructura federal similar. Sin embargo, mientras la Administración Trump intenta impedir que los estados aprueben sus propias leyes sobre inteligencia artificial, defendió que la regulación debe dejarse en manos de las empresas. David Sacks, el “AI czar” de la Administración, también respaldó esta postura. El presidente de la Cámara de Representantes, Mike Johnson, hizo una declaración que minimizaba las preocupaciones relacionadas con las consecuencias catastróficas de la inteligencia artificial.
El hecho de que una organización privada de autorregulación establezca las reglas mediante estándares voluntarios y otorgue más autoridad a las grandes empresas reforzó el debate sobre la “captura regulatoria”. Según esta visión, las grandes empresas podrían utilizar los estándares de una manera que pusiera en desventaja a sus competidores más pequeños y con menos recursos.
El portavoz del Ministerio de Asuntos Exteriores de China, Guo Jiakun, calificó los llamamientos de Amodei de “alarmismo” que obstaculiza la gobernanza mundial de la inteligencia artificial. Amodei, por su parte, escribió que, si se aplicaran sus propuestas, el avance de China se ralentizaría y Estados Unidos podría ampliar su ventaja en un plazo de 3–5 años. El CEO canadiense de Cohere, Aidan Gomez, también acusó a los grandes laboratorios estadounidenses de formar un “cártel” y afirmó que el debate gira en torno a quién redactará las normas de seguridad y a quién protegerán sus intereses.
Por qué es importante
El centro del debate ya no es únicamente si la inteligencia artificial es segura, sino quién determinará las normas de seguridad. Una estructura privada basada en estándares voluntarios puede permitir una aplicación rápida y la coordinación dentro del sector; sin embargo, el peso de las grandes empresas en los procesos de toma de decisiones aumenta la preocupación de que las reglas puedan utilizarse en perjuicio de los pequeños competidores. La diferencia entre el enfoque contrario a la intervención estatal y el llamamiento a la cooperación internacional deja abierta la cuestión de si la seguridad se confiará a los incentivos de las empresas o a la autoridad pública. Las críticas de China y el objetivo de Estados Unidos de conservar su ventaja hacen que el debate sobre la seguridad deje de estar desvinculado de la competencia mundial. Por ello, la incertidumbre persiste tanto sobre el alcance de la regulación como sobre cómo se supervisarán los compromisos voluntarios de las empresas.