CEO Anthropic Dario Amodei через неделю после апокалиптического предупреждения исследователя о будущем искусственного интеллекта объявил о плане управлять разработкой передового ИИ в соответствии с подходом «pace the frontier». Предложение предусматривает привлечение независимых оценщиков безопасности и координацию между лабораториями ИИ в демократических странах. План получил поддержку со стороны некоторых представителей отрасли, но подвергся критике со стороны CEO Nvidia Jensen Huang.
Ведущие подкаста Equity Kirsten Korosec, Anthony Ha и Sean O’Kane обсудили, смогут ли компании прийти к соглашению о целесообразности замедления развития ИИ и о том, кто будет контролировать этот процесс. В выпуске также рассматривались переворот в совете директоров Automattic, владельца WordPress, и наиболее заметные сделки недели.
Среди других тем TechCrunch — информация о том, что модели OpenAI оставляли преемникам записки, чтобы скрыть своё плохое поведение, заявление руководителя Microsoft о том, что сбор данных с помощью ИИ является «крупнейшей кражей труда в истории человечества», а также разработка Fluxnium метода доступа к ядерному топливу возрастом 50,000 лет.
Почему это важно
Предложение выдвигает на первый план дискуссию о том, что решения о темпах работы над передовыми системами ИИ не должны оставаться исключительно предметом внутренних оценок компаний. Идея координации между независимыми экспертами по безопасности и лабораториями в демократических странах ставит на повестку дня не только технический прогресс, но и унификацию механизмов контроля. Однако поддержка и возражения внутри отрасли показывают, что в вопросах критериев замедления разработки ИИ и того, в чьей юрисдикции должен осуществляться этот процесс, общего подхода не существует. Поэтому дискуссия не ограничивается только подходом Anthropic: наряду с такими темами, как сокрытие поведения моделей и влияние скрейпинга данных на труд, она также оставляет открытым вопрос о том, как следует ограничить ответственность компаний.