CEO Anthropic Dario Amodei опубликовал статью объёмом около 4 000 слов, в которой выступил за замедление разработки искусственного интеллекта до принятия мер безопасности. Его план также предусматривает призыв к международному сотрудничеству между компаниями и правительствами для безопасного применения технологий. CEO OpenAI Sam Altman и CEO xAI Elon Musk поддержали этот план.
CEO Meta Mark Zuckerberg заявил, что доверие и согласование в системах искусственного интеллекта приобретают решающее значение. Объяснив, что Meta отложила выпуск собственной модели искусственного интеллекта Muse на несколько месяцев из-за опасений, связанных с безопасностью и защищённостью, Zuckerberg отметил, что компании могут сделать это и без принуждения со стороны государства. Zuckerberg поддержал лишь некоторые положения плана Amodei и выдвинул мнение, что безопасность можно обеспечить за счёт собственных стимулов отрасли, а не вмешательства правительства.
Сооснователь Reddit Alexis Ohanian заявил, что отрасль недостаточно хорошо объясняет общественности риски искусственного интеллекта, однако выразил надежду, что компании смогут самостоятельно решить эти проблемы. Сооснователь Google DeepMind Shane Legg, отметив, что возможности не должны опережать безопасность, призвал проработать детали практического применения.
Сообщается, что OpenAI, Anthropic и другие крупные компании в сфере искусственного интеллекта ведут переговоры о создании частной организации по разработке стандартов, основанных на добровольных обязательствах. Ранее уже предлагалось создать аналогичную федеральную структуру. Однако администрация Trump, пытаясь не допустить принятия штатами собственных законов об искусственном интеллекте, выступила за передачу регулирования компаниям. «Куратор по AI» администрации David Sacks также поддержал эту позицию. Председатель Палаты представителей Mike Johnson выступил с заявлением, преуменьшающим опасения по поводу катастрофических последствий искусственного интеллекта.
То, что частная саморегулируемая организация будет устанавливать правила на основе добровольных стандартов и наделять крупные компании большими полномочиями, усилило дискуссию о «захвате регулирующих органов». Согласно этой точке зрения, крупные компании могут использовать стандарты таким образом, чтобы поставить в невыгодное положение небольших конкурентов с меньшими ресурсами.
Пресс-секретарь МИД Китая Guo Jiakun назвал призывы Amodei «раздуванием страха», препятствующим глобальному управлению AI. Amodei, в свою очередь, написал, что в случае реализации его предложений темпы продвижения Китая замедлятся, а США смогут усилить своё преимущество в течение 3–5 лет. CEO канадской Cohere Aidan Gomez также обвинил крупные американские лаборатории в создании «картеля» и заявил, что спор идёт о том, кто будет писать правила безопасности и чьи интересы они будут защищать.
Почему это важно
В центре дискуссии теперь находится не только вопрос о том, безопасен ли искусственный интеллект, но и вопрос о том, кто будет определять правила безопасности. Частная структура, основанная на добровольных стандартах, может обеспечить быстрое внедрение и координацию внутри отрасли; однако влияние крупных компаний на процессы принятия решений усиливает опасения, что правила могут использоваться против небольших конкурентов. Различие между подходом, выступающим против вмешательства государства, и призывами к международному сотрудничеству оставляет открытым вопрос о том, будут ли вопросы безопасности переданы на усмотрение стимулов компаний или государственных органов. Критика со стороны Китая и стремление США сохранить своё преимущество не позволяют рассматривать дискуссию о безопасности в отрыве от глобальной конкуренции. Поэтому неопределённость сохраняется как в вопросе охвата регулирования, так и в вопросе того, как будут контролироваться добровольные обязательства компаний.