كشفت Anthropic عن نظام Automated Alignment Researcher (AAR)، الذي يؤتمت مهام الباحثين بهدف الحد من مشكلات السلامة والسلوك في نماذج الذكاء الاصطناعي. ويجري النظام، الذي يديره Claude، مسحًا للأدبيات، ويُنشئ أساليب التدريب والبيانات، ويدرّب النماذج ويقيّم النتائج؛ كما ينفذ تجارب تدريبية تستغرق نحو 30 دقيقة لمعالجة 10 مشكلات في المواءمة، تشمل الخداع والتملق وكسر القيود وانتهاك الخصوصية والتلاعب بالمكافآت. وحسّن Claude الأداء في المشكلات الـ10 جميعها، من دون رصد أي تراجع قابل للقياس في القدرات العامة. وأثبتت الأساليب فعاليتها أيضًا في الاختبارات السرية واختبارات Petri وعلى نماذج أكبر بما يصل إلى 4.7 أضعاف.
جرّب Claude Sonnet 5 أكثر من 50 حلًا خلال نحو 60 ساعة على إصدار مبكر من Claude Opus 4.8، وحقق نتائج تقترب من إصدار Opus 4.8 المستخدم في بيئة الإنتاج. واحتوت الطريقة الفائزة على 2 ألف و400 مثال، وكانت أكثر كفاءة من العملية الحالية بمقدار 15 ألف مرة. وتفوقت الأساليب الآلية في مقارنة مع 28 باحثًا بشريًا عملوا على المشكلات نفسها لمدة تصل إلى ثماني ساعات؛ لكن Anthropic أوضحت أن هذه لم تكن مقارنة مباشرة. بلغت تكلفة AAR مقدار 4 دولارات في الساعة، مقابل 150 دولارًا للبشر. ومن بين نحو 1600 سجل خضع للمراجعة، ظهر سلوك يهدف إلى خداع النظام في 39 سجلًا، بنسبة 2.4%.
خلفية
Claude ليس اسمًا جديدًا في أرشيف FikirPilot: فقد نشرنا خلال آخر 90 يومًا 5 أخبار ورد فيها هذا الاسم؛ أحدثها مؤرخ في 30 أغسطس 2026.