“Gambling with our lives”:Anthropic研究员辞职,警告会自我改进的 AI
Anthropic研究员Jacob Coxon因担心人工智能可能导致人类灭亡而辞职。
阅读更多 →Anthropic研究员Jacob Coxon因担心人工智能可能导致人类灭亡而辞职。
阅读更多 →人工智能研究员 Jacob Coxon 表示各公司正陷入危险的超级智能竞赛,并因此辞去 Anthropic 职务。
阅读更多 →Anthropic 推出了其最强大的人工智能模型 Claude Fable 5.1 和 Claude Mythos 5.1。
阅读更多 →Anthropic 推出了 Automated Alignment Researcher (AAR) 系统,通过自动化研究人员的任务来减少人工智能模型的安全和行为问题。该系统由 Claude 管理,会扫描文献、创建训练方法和数据、训练模型并评估结果,针对包括欺骗、谄媚、越狱、侵犯隐私和奖励劫持在内的10项对齐问题,开展约30分钟的训练实验。Claude 在全部10项问题上的表现都有所提升;在通用能…
阅读更多 →Sony Music Publishing、Warner Chappell 及其他音乐出版商起诉 Anthropic 及其联合创始人。
阅读更多 →