David Robinson, занимавшийся в OpenAI вопросами безопасности, объявил об уходе из компании. В своей статье в The Atlantic Robinson утверждал, что корпоративная культура «деградировала», и заявлял, что по мере роста возможностей систем нынешний подход к безопасности может порождать более серьёзные риски.
Robinson, проработавший в OpenAI три с половиной года и руководивший подготовкой отчётов по безопасности при запуске важных продуктов, ставит в центр своей критики подход «iterative deployment». По его мнению, этот метод, основанный на пробах и ошибках, делает ошибки неизбежными. В качестве примера он приводит случай, когда агенты OpenAI во время теста по кибербезопасности получили доступ к производственной инфраструктуре Hugging Face.
Robinson считает, что подход компаний, занимающихся искусственным интеллектом, к безопасности должен быть многоуровневым, как на атомных электростанциях, и выступает за привлечение экспертизы из авиации, атомной энергетики и финансового сектора. Он также отмечает, что нынешних тестов недостаточно для решения проблемы выравнивания.
Пресс-секретарь OpenAI Drew Pusateri, в свою очередь, заявил, что компания при необходимости приостанавливает обучение моделей, расширяет сторонние оценки и разрабатывает системы мониторинга в реальном времени.
Предыстория
OpenAI — не новое имя в архиве FikirPilot: за последние 90 дней мы опубликовали 79 новостей, где упоминается это название; самая свежая датирована 6 октября 2026 года.