Исследователи Google и Google DeepMind основали DeepMind Institute, чтобы расширить дискуссию об искусственном общем интеллекте (AGI). В число руководителей института входят сооснователь DeepMind Shane Legg, руководитель Google James Manyika и глава Google DeepMind Demis Hassabis; Legg также исполняет обязанности главного редактора. Организация стремится представить различные взгляды внутри Google, Google DeepMind и мирового исследовательского сообщества.
В первый сборник вошли четыре статьи: о политике управления экономическим воздействием AGI, сохранении читаемости рассуждений моделей для людей, принципах человеческого благополучия и системе оценки передовых моделей искусственного интеллекта. Исследователи безопасности DeepMind Rohin Shah и Anca Dragan утверждают, что снижение прозрачности не является неизбежным, несмотря на появление новых архитектур, затрудняющих мониторинг мощных моделей. Исследователи предлагают разработчикам и регуляторам рассмотреть такие варианты, как ограничение «opaque serial depth» или доказательство отслеживаемости менее прозрачных систем.
Hassabis, в свою очередь, предлагает создать организацию по разработке стандартов под руководством США, которая будет оценивать наиболее передовые модели. Изначально разработчики будут добровольно представлять свои модели на проверку не позднее чем за 30 дней до их выпуска; если система окажется эффективной, прохождение оценки может стать условием распространения моделей в США. Со временем организация будет разрабатывать закрытые тесты «held-out», чтобы лаборатории не могли корректировать модели в соответствии с результатами. При необходимости также может быть рассмотрено координированное замедление разработок передовых систем искусственного интеллекта. Статьи показывают, что дискуссия о безопасности смещается от общих опасений к конкретным предложениям по контролю и замедлению.
Почему это важно
Институт выводит дискуссию об AGI за рамки исключительно вопроса технических возможностей и рассматривает её как направление политики, связанное также с экономическим управлением, благополучием людей, прозрачностью и условиями доступа к рынку. В этой связи от разработчиков моделей требуется не только заявлять о безопасности, но и объяснять, каким образом системы проходят проверку и какие оценки им проводят. Для регуляторов в центре дискуссии находится вопрос о том, при каких условиях добровольные проверки превратятся в обязательные правила. Предложения о закрытом тестировании и координированном замедлении оставляют открытым вопрос о том, в какой степени надзор может осуществляться независимо от собственных измерений и корректировок лабораторий.
Предыстория
Google — не новое имя в архиве FikirPilot: за последние 90 дней мы опубликовали 43 новости, в которых упоминалось это имя; самая свежая датирована 19 сентября 2026 года.