研究人员担心在 OpenAI 的 Astra 版本发布前发生安全灾难
预计将成为 OpenAI 最强大的 AI 模型的 Astra,其发布为加强安全协议而推迟了数周。就在作出推迟决定后不久,The Information 报道称,与其他领先的 AI 系统相比,该模型展示“思考”过程的程度要低得多。这引发了人们的担忧,即这可能会让 Astra 更难被监控,也更难发现其危险行为。 如今,许多先进的 AI 模型都采用“chain of thought”方法,在生成回答时展…
阅读更多 →预计将成为 OpenAI 最强大的 AI 模型的 Astra,其发布为加强安全协议而推迟了数周。就在作出推迟决定后不久,The Information 报道称,与其他领先的 AI 系统相比,该模型展示“思考”过程的程度要低得多。这引发了人们的担忧,即这可能会让 Astra 更难被监控,也更难发现其危险行为。 如今,许多先进的 AI 模型都采用“chain of thought”方法,在生成回答时展…
阅读更多 →David Lawrence 为向警察提供即时法律法规支持的人工智能创业公司 Blue Voice 获得 6百万美元投资。
阅读更多 →