研究人员担心在 OpenAI 的 Astra 版本发布前发生安全灾难
预计将成为 OpenAI 最强大的 AI 模型的 Astra，其发布为加强安全协议而推迟了数周。就在作出推迟决定后不久，The Information 报道称，与其他领先的 AI 系统相比，该模型展示“思考”过程的程度要低得多。这引发了人们的担忧，即这可能会让 Astra 更难被监控，也更难发现其危险行为。 如今，许多先进的 AI 模型都采用“chain of thought”方法，在生成回答时展…
阅读更多 →中文
预计将成为 OpenAI 最强大的 AI 模型的 Astra，其发布为加强安全协议而推迟了数周。就在作出推迟决定后不久，The Information 报道称，与其他领先的 AI 系统相比，该模型展示“思考”过程的程度要低得多。这引发了人们的担忧，即这可能会让 Astra 更难被监控，也更难发现其危险行为。 如今，许多先进的 AI 模型都采用“chain of thought”方法，在生成回答时展…
阅读更多 →
