نشرت Microsoft وثيقة جديدة بعنوان “مدونة قواعد سلوك AI”، تهدف إلى إبقاء نماذج الذكاء الاصطناعي بعيدة عن السلوكيات الخطرة. وعلى خلاف دعوة CEO شركة Anthropic، Dario Amodei، إلى فرض القيود، تركز الوثيقة على القيم والخطوط الحمراء التي توجه تدريب النماذج داخل Microsoft AI.
وتتوقع الوثيقة أن تتفوق أنظمة الذكاء الاصطناعي فائقة الذكاء على أداء البشر في معظم المهام خلال العقد المقبل، وتشير إلى أن السيطرة على هذه القوة ستكون أحد أكبر اختبارات البشرية. وبينما تحدد مبادئ عامة لنماذج Microsoft، مثل دعم البشر وتعزيز رفاههم، تنص على أن كل نموذج سيخضع لقواعد سلوك تتقدم على تفضيلات المستخدمين أو المهام المحددة.
وتحظر القواعد الهجمات السيبرانية والأسلحة النووية وإنتاج مقاطع deepfake ضمن “القيود المطلقة”. كما يجب ألا تستخدم النماذج آليات قابلة للتكيف أو خادعة أو معززة للذات أو قائمة على التعاون السري من أجل الإفلات من الإشراف البشري؛ ويجب أن تكون قابلة للتوجيه والتعديل والإيقاف من جانب أشخاص أو أنظمة مخولة.
وجاء الإعلان المؤرخ في 14 سبتمبر 2026 خلال فترة تزايد الاهتمام بأمان الذكاء الاصطناعي ووقوع حوادث “rogue-agent”. وأعلن CEO شركة Microsoft، Satya Nadella، أنهم يدعمون، إلى جانب OpenAI وAnthropic وxAI، دفع الحدود بحذر وأبحاث “embedded evaluators”.
لماذا هذا مهم
تكمن أهمية الوثيقة في أنها لا تترك أمن الذكاء الاصطناعي لتحذيرات المستخدمين وحدها، بل تربطه بتدريب النماذج وحدود سلوكها. ويجعل إدراج مجالات مثل الهجمات السيبرانية والأسلحة النووية وإنتاج مقاطع deepfake ضمن القيود المطلقة، الأغراض التي يُعد استخدام النماذج من أجلها غير مقبول أكثر وضوحًا. أما شروط عدم الإفلات من الرقابة، وإمكانية التعديل والإيقاف، فتعرّف الأمن من خلال الحفاظ على السيطرة البشرية أكثر من تعريفه عبر قدرات النموذج. ومع ذلك، تظل أسئلة مفتوحة كيفية تطبيق هذه القواعد على نماذج مختلفة، وكيفية رصد الانتهاكات، ومدى موثوقية النتائج التي ستقدمها أبحاث embedded evaluators. كما يسلط هذا الإطار الضوء على التوتر المحتمل بين احتياجات المستخدمين والحدود العليا المفروضة على سلوك النموذج.
الخلفية
لم يعد Microsoft اسمًا جديدًا في أرشيف FikirPilot: فقد نشرنا 10 أخبار ورد فيها هذا الاسم خلال آخر 90 يومًا؛ وكان أحدثها مؤرخًا في 14 سبتمبر 2026.