أثارت تقنية «recurrent depth» التي يُقال إن OpenAI ستستخدمها في نموذجها الجديد Astra، قلق خبراء سلامة الذكاء الاصطناعي. ووفقًا لتقرير نشرته The Information، تتيح هذه الطريقة، التي تُسمى أيضًا «opaque recurrence»، للنموذج معالجة الاستعلام نفسه عدة مرات ضمن حلقة، متجاوزًا بذلك أسلوب التفكير المتسلسل الشائع في معظم نماذج الاستدلال. وقد يجعل هذا النهج تتبّع سلسلة أفكار النموذج أكثر صعوبة.
وقال Buck Shlegeris، CEO في Redwood، إنه «قلق للغاية» من استخدام Astra لهذه التقنية. ورأى Zvi Mowshowitz أنه قد تكون هناك حاجة إلى قوانين لمنع «سباق نحو القاع» بين شركات الذكاء الاصطناعي. ووفقًا للخبراء، فإن سجلات سلسلة التفكير التقليدية تُعد أداة مهمة لفحص السلوكيات الخاطئة أو غير المتوافقة، رغم أنها لا تُظهر دائمًا وبشكل كامل ودقيق الخطوات التي يتبعها النموذج أثناء حل المشكلات. وقد استُخدمت هذه السجلات أيضًا في فحص أنشطة الوكلاء الجامحة الأخيرة التابعة لـ OpenAI.
وأُفيد بأن استخدام الطريقة في Astra محدود في الوقت الراهن، ومن المتوقع أن تظل سلسلة أفكار النموذج قابلة للقراءة. ورفضت OpenAI التعليقات التي تفيد بأن النموذج سينتقل إلى «neuralese»، وجددت التزامها بقابلية تتبّع سلاسل التفكير. وقال كبير العلماء Jakub Pachocki إن الحفاظ على إمكانية تتبّع هذا الأمر منذ نماذج الاستدلال الأولى كان أحد الأهداف الأساسية لبرنامج الأبحاث.
ومع ذلك، يُشار إلى أن قابلية التتبّع قد تتراجع أكثر إذا انتشرت الطريقة على نطاق واسع. وذكرت The Information أن Anthropic وGoogle DeepMind ناقشتا التقنية أيضًا. كما أعلن Ryan Greenblatt، كبير العلماء في Redwood Research، أنه يخشى من أن يتوسع الاستدلال المعتم وأن ينقل أفكار النموذج بالكامل أو إلى حد كبير إلى فضاء سري.
لماذا هذا مهم
قد يؤدي انتشار هذا النهج إلى تعقيد عمليات السلامة التي تراقب سبب وصول أنظمة الذكاء الاصطناعي إلى نتيجة معينة. وعلى الرغم من أن سلاسل التفكير ليست سجل تدقيق مثاليًا، فإنها تُعد إحدى الأدوات الرئيسية المستخدمة لفحص السلوكيات الخاطئة أو غير المتوافقة، ولذلك قد يؤثر ازدياد غموض هذه السجلات جزئيًا في قدرة الباحثين على تشخيص المشكلات. ويُظهر توقّع الحفاظ على قابلية تتبّع Astra في الوقت الراهن أن النقاش يركّز بدرجة أكبر على مدى استخدام الطريقة مستقبلًا، وليس على النموذج الحالي. كما أن اهتمام Anthropic وGoogle DeepMind بالتقنية نفسها يشير إلى أن القضية لم تعد مجرد خيار في منتج شركة واحدة، بل أصبحت مرتبطة بمعايير سلامة الذكاء الاصطناعي والحاجة المحتملة إلى التنظيم.
الخلفية
OpenAI ليست اسمًا جديدًا في أرشيف FikirPilot: نشرنا 21 خبرًا ورد فيه هذا الاسم خلال آخر 90 يومًا؛ وكان أحدثها بتاريخ 6 سبتمبر 2026.