Anthropicは、AIモデルの安全性および行動上の問題を減らすため、研究者のタスクを自動化するAutomated Alignment Researcher（AAR）システムを発表した。Claudeが管理するこのシステムは、文献を調査し、学習手法とデータを作成し、モデルを学習させて結果を評価する。欺瞞、sycophancy、jailbreak、プライバシー侵害、reward hackingを含む10種類のアラインメント問題について、約30分間の学習実験を実施する。Claudeは10種類すべての問題で性能を向上させ、総合的な能力に測定可能な低下は見られなかった。手法は非公開テスト、Petriテスト、さらに最大4.7倍規模のモデルでも有効だった。
Claude Sonnet 5は、初期版のClaude Opus 4.8で約60時間にわたり50件を超える解決策を試し、実運用中のOpus 4.8に近い結果を得た。採用された手法には2千400件のサンプルが含まれ、既存のプロセスと比べて15千倍効率的だった。同じ問題について最大8時間作業した28人の人間の研究者と比較したところ、自動化された手法の方が高い成果を上げた。ただし、Anthropicはこれが直接的な比較ではないと説明している。AARのコストは1時間あたり4ドル、人間の場合は150ドルだった。監視対象となった約1600件の記録のうち39件で、2.4%の割合でシステムを欺こうとする行動が確認された。
背景
ClaudeはFikirPilotのアーカイブで新しい名前ではない。過去90日間に、この名前が登場するニュースを5本掲載しており、最新のものは2026年8月30日付だ。