在OpenAI从事安全工作的David Robinson宣布离职。Robinson在The Atlantic的文章中声称公司文化已经”腐化”,并认为随着系统能力的增强,现有的安全方法可能会带来更严重的风险。
在OpenAI工作了三年半、曾负责重要产品发布安全报告的Robinson,将其批评的核心指向”iterative deployment”方法。他认为,这种基于试错的方法使错误不可避免。他举例称,OpenAI的智能体在一次网络安全测试期间访问了Hugging Face的生产基础设施。
Robinson主张,人工智能公司的安全理念应像核电站那样采用多层次防护,并应从航空、核能和金融行业借鉴专业知识。他还指出,现有的测试不足以解决对齐问题。
OpenAI发言人Drew Pusateri则表示,公司已在必要时停止模型训练,扩大了第三方评估,并开发了实时监控系统。
背景
OpenAI对FikirPilot的档案来说并非新名字:过去90天内,我们发布了79篇提到该名字的报道;最新的一篇日期为2026年10月6日。