В подкасте TechCrunch Equity Anthony Ha, Kirsten Korosec и Sean O’Kane обсудили, готова ли индустрия искусственного интеллекта замедлить своё развитие или перейти к более контролируемому продвижению по принципу «pace the frontier». Дискуссия началась после плана CEO Anthropic Dario Amodei по «pace» продвижения frontier AI и аналогичных заявлений CEO OpenAI Sam Altman. CEO Nvidia Jensen Huang, в свою очередь, поддержал позицию президента Donald Trump о том, что негативная реакция на искусственный интеллект является «hoax» и что регулирование не требуется.
Sean O’Kane назвал поддержку идеи замедления со стороны Anthropic, OpenAI и, в некоторой степени, Elon Musk существенным изменением по сравнению с их предыдущими оценками. Однако он утверждал, что план, изложенный Amodei в его блоге, не содержит достаточных подробностей о причинах рисков и о том, что «замедление» будет означать на практике. Anthony Ha также заявил, что быстрое формирование консенсуса вокруг плана в отрасли обнадёживает, но вызывает сомнения в том, является ли это реальным и масштабным шагом по замедлению.
Kirsten Korosec отметила, что данный подход особенно касается лабораторий frontier AI, и перечислила основные предложения:
- Независимые сторонние оценщики должны работать в таких компаниях, как Anthropic и OpenAI, чтобы отслеживать практики безопасности искусственного интеллекта и инциденты.
- Крупные компании в сфере искусственного интеллекта в демократических странах должны координировать работу над стандартами безопасности и ограничениями.
- Необходимо обеспечить координацию на международном уровне.
Korosec заявила, что общие рамки этих предложений известны, однако детали остаются неясными и существует вероятность того, что консенсус может стать началом формирования картеля. Она также отметила, что CEO Nvidia Jensen Huang резко выступил против этого подхода.
По словам O’Kane, Huang занимает важное посредническое положение между отраслью и администрацией Trump и демонстрирует позицию, поддерживающую развитие компаний в сфере искусственного интеллекта. Korosec же утверждала, что такая позиция Huang связана с его интересами, поскольку Nvidia в значительной степени выигрывает от беспрепятственного развития искусственного интеллекта. Ha также отметила, что интересы Trump и Huang совпадают, и, хотя предложения включают меры безопасности, они явно не требуют, чтобы искусственный интеллект развивался медленнее, чем сегодня.
В подкасте также обсуждалось, достаточно ли существующих нормативных актов и свободного рынка для обеспечения безопасности. O’Kane заявила, что федеральное правительство, по-видимому, не стремится применять эти нормы, а выбор потребителей недостаточно влияет на этот рынок. Она отметила, что компании продают больше услуг корпоративным клиентам и получают поддержку за счёт инвестиционного капитала, и утверждала, что в случае серьёзной проблемы нельзя ожидать, что клиенты легко перейдут с Codex от OpenAI на Claude Code от Anthropic.
Почему это важно
Значение этой дискуссии заключается в том, что она выдвигает на первый план вопрос о том, будет ли безопасность ИИ основываться исключительно на добровольных решениях компаний или же на независимом аудите и общих стандартах разных стран. Хотя предложенная система особенно касается лабораторий, разрабатывающих передовой ИИ, достижение этими компаниями соглашения по единым правилам может не только обеспечить сотрудничество в сфере безопасности, но и превратиться в структуру, ограничивающую конкуренцию. Подход Nvidia, в свою очередь, выводит дискуссию за рамки технических границ безопасности: остаётся неясным, насколько расходятся интересы компаний и государственных органов в отношении темпов развития ИИ. Поэтому ключевым нерешённым вопросом остаётся то, как будет работать независимая оценка, какие риски и при каких пороговых значениях будут учитываться и будут ли действующие нормы на практике обязывать компании их соблюдать.