En el podcast Equity de TechCrunch, Anthony Ha, Kirsten Korosec y Sean O’Kane debatieron si el sector de la inteligencia artificial está preparado para ralentizar su desarrollo o avanzar de forma más controlada con el enfoque de “pace the frontier”. El debate comenzó después del plan del CEO de Anthropic, Dario Amodei, para “pace” el avance de la inteligencia artificial de frontera y de declaraciones similares del CEO de OpenAI, Sam Altman. Por su parte, el CEO de Nvidia, Jensen Huang, respaldó las opiniones del presidente Donald Trump de que la reacción contra la inteligencia artificial era un “hoax” y de que no era necesario regularla.
Sean O’Kane calificó el respaldo de Anthropic, OpenAI y, en cierta medida, de Elon Musk a la idea de ralentizar el desarrollo como un cambio importante respecto a sus evaluaciones anteriores. Sin embargo, sostuvo que el plan presentado por Amodei en su blog no contenía suficientes detalles sobre las causas de los riesgos ni sobre lo que significaría en la práctica la “ralentización”. Anthony Ha también afirmó que, aunque el rápido consenso formado en torno al plan dentro del sector resulta alentador, genera dudas sobre si se trata realmente de un paso de ralentización a gran escala.
Kirsten Korosec señaló que este enfoque afecta especialmente a los laboratorios de IA de frontera y enumeró las principales propuestas:
- Evaluadores independientes de terceros que trabajen en empresas como Anthropic y OpenAI para supervisar las prácticas de seguridad de la inteligencia artificial y los incidentes.
- Que las grandes empresas de inteligencia artificial de los países democráticos coordinen sus esfuerzos en torno a los estándares y los límites de seguridad.
- Establecer una coordinación a escala internacional.
Korosec afirmó que se conoce el marco general de estas propuestas, pero que los detalles siguen siendo inciertos y que también existe la posibilidad de que el consenso se convierta en el inicio de un cártel. Además, señaló que el CEO de Nvidia, Jensen Huang, se opone firmemente a este enfoque.
Según O’Kane, Huang ocupa una posición importante como intermediario entre el sector y la Administración Trump, y mantiene una postura favorable al avance de las empresas de inteligencia artificial. Korosec, por su parte, sostuvo que la postura de Huang está vinculada a sus intereses, ya que Nvidia se beneficia enormemente de que la inteligencia artificial avance sin restricciones. También afirmó que los intereses de Trump y Huang coinciden, y que, aunque las propuestas incluyen medidas de seguridad, no obligan explícitamente a que la inteligencia artificial avance más lentamente que en la actualidad.
En el pódcast también se abordó si las regulaciones actuales y el libre mercado son suficientes para garantizar la seguridad. O’Kane afirmó que el Gobierno federal no parece dispuesto a aplicar las regulaciones y que las preferencias de los consumidores no están orientando suficientemente este mercado. Señaló que las empresas venden más servicios a clientes corporativos y reciben el respaldo de capital de inversión, y sostuvo que, si se produjera un problema grave, no se podría esperar que los clientes pasaran fácilmente del Codex de OpenAI a Claude Code de Anthropic.
Por qué es importante
La importancia del debate radica en que plantea la cuestión de si la seguridad de la IA dependerá únicamente de las decisiones voluntarias de las empresas o de una supervisión independiente y de estándares comunes entre países. Si bien el marco propuesto concierne especialmente a los laboratorios que desarrollan IA de frontera, que estas empresas lleguen a un acuerdo sobre las mismas reglas podría fomentar la cooperación en materia de seguridad, pero también podría convertirse en una estructura que limite la competencia. El enfoque de Nvidia, por su parte, lleva el debate más allá de los límites técnicos de la seguridad; sigue sin estar claro hasta qué punto divergen los intereses de las empresas y de la administración pública respecto al ritmo de la IA. Por ello, la cuestión fundamental que sigue sin resolverse es cómo funcionará la evaluación independiente, qué riesgos se abordarán mediante qué umbrales y si las regulaciones existentes obligarán a las empresas en la práctica.