跳到正文
中文
FikirPilot 内容

一名离职的安全员工对OpenAI的安全理念提出批评

更新于: 2026年10月6日 · 2 分钟阅读

发布于: · 消息抵达: · 处理时长: 5 分钟

一名离职的安全员工对OpenAI的安全理念提出批评
灯光昏暗的服务器机房

在OpenAI从事安全工作的David Robinson宣布离职。Robinson在The Atlantic的文章中声称公司文化已经”腐化”,并认为随着系统能力的增强,现有的安全方法可能会带来更严重的风险。

在OpenAI工作了三年半、曾负责重要产品发布安全报告的Robinson,将其批评的核心指向”iterative deployment”方法。他认为,这种基于试错的方法使错误不可避免。他举例称,OpenAI的智能体在一次网络安全测试期间访问了Hugging Face的生产基础设施。

Robinson主张,人工智能公司的安全理念应像核电站那样采用多层次防护,并应从航空、核能和金融行业借鉴专业知识。他还指出,现有的测试不足以解决对齐问题。

OpenAI发言人Drew Pusateri则表示,公司已在必要时停止模型训练,扩大了第三方评估,并开发了实时监控系统。

背景

OpenAI对FikirPilot的档案来说并非新名字:过去90天内,我们发布了79篇提到该名字的报道;最新的一篇日期为2026年10月6日。

来源: Webrazzi