跳到正文
中文

Anthropic在Claude上进行的实验为能够自我改进的人工智能铺平了道路

Anthropic 推出了 Automated Alignment Researcher (AAR) 系统,通过自动化研究人员的任务来减少人工智能模型的安全和行为问题。该系统由 Claude 管理,会扫描文献、创建训练方法和数据、训练模型并评估结果,针对包括欺骗、谄媚、越狱、侵犯隐私和奖励劫持在内的10项对齐问题,开展约30分钟的训练实验。Claude 在全部10项问题上的表现都有所提升;在通用能…

阅读更多 →