طورت Abliteration.ai خدمة تجارية تزيل إجراءات الحماية التي تجعل نماذج الذكاء الاصطناعي مفتوحة الأوزان ترفض الطلبات الضارة، وتتيح هذه النماذج عبر متصفح الويب وAPI. وتستضيف الشركة الناشئة، التي تأسست في أواخر العام الماضي وتحولت رسميًا إلى شركة في مارس، نماذج معدلة، من بينها نموذج GLM-5.3 الذي نشرته Z.ai حديثًا. وقالت الشركة إن هدفها هو تمكين «اختبارات الأمن السيبراني الهجومية، واختبارات red-team، واختبارات الوكلاء» التي ترفضها النماذج الأخرى.
لطالما كانت إزالة إجراءات الحماية من النماذج ممارسة متبعة في مجتمع المصادر المفتوحة، وتوجد آلاف النماذج المعدلة بهذه الطريقة على Hugging Face. وتسهل Abliteration.ai الوصول إلى هذه النماذج، إذ تلغي حاجة المستخدمين إلى توفير القدرة الحاسوبية اللازمة لتنزيلها وتشغيلها. وأفادت TechCrunch بأن نسخة GLM-5.3 التي تمكنت من الوصول إليها عبر حساب مجاني قدمت برنامج Python يسرق كلمات المرور المحفوظة في Chrome، وتعليمات مفصلة لزراعة ممرض بشري خطير في المنزل.
وقال المؤسس المشارك Devon إن الشركة أبرمت اتفاقيات مع مزودي الخدمات السحابية الكبار، وإن التكاليف مغطاة بإيرادات العملاء. ولم تحصل Abliteration.ai بعد على تمويل من رأس المال المغامر، لكنها تجري محادثات استثمارية. ومن بين عملائها شركات ناشئة red-team في مراحلها المبكرة، مقرها U.K. وEurope، وتقدم خدمات الأمن السيبراني للبنوك وشركات الطيران والمؤسسات العاملة في البنية التحتية الحيوية.
وقال Andrew Yoon، رئيس الأبحاث في CivAI، إن النماذج التي أزيلت منها إجراءات الحماية أصبحت قادرة على الاستجابة لأي طلب، وقد تُستخدم لإلحاق الضرر في المستقبل القريب. واقترح Yoon أن تلزم الحكومات مزودي الخدمات السحابية باستخدام مصنفات تحدد الأنشطة السيبرانية الضارة وأبحاث الأسلحة البيولوجية، وأن تتحقق الشركات التي تستأجر إمكانية الوصول إلى GPU المتقدمة من هويات عملائها.
توفر Abliteration.ai للعملاء طبقة إشراف يمكنهم إضافة قواعد الأمان الخاصة بهم إليها. وتوجد بعض القيود على المنصة؛ ففي اختبار أجرته TechCrunch، لم يقدم النموذج تعليمات للانتحار. وذكر Devon أنه يعمل على تدابير إضافية لمنع العنف. ولا تطبق الشركة إجراءات KYC باستثناء تسجيل بطاقة الدفع.
ولا تزال أهمية هذه الطريقة من الناحية الدفاعية موضع جدل في القطاع. وقال Ahmed Aly، CEO شركة Fabraix، إن إزالة تدابير الأمان قد تقلل من معارف النموذج وقدراته، وإن شركته تستخدم بدلاً من ذلك نماذج مفتوحة خضعت للضبط الدقيق. وبينما ذكر Alessio Lomuscio من Safe Intelligence أن الطريقة قد تكون مفيدة في اختبارات الضغط، أوضح David Slater، مؤسس Armadin، أن هذه النماذج لا تدخل بعد ضمن عملياتهم، لكن الأبحاث المفتوحة تساعد على فهم المخاطر.
لماذا يهم ذلك
تقلل هذه الخدمة العوائق المرتبطة بالتنزيل والتثبيت والقدرة الحاسوبية اللازمة للوصول إلى نماذج أزيلت منها قيود الأمان، ما يتيح لشريحة واسعة من المستخدمين ممارسة كانت مقتصرة سابقاً على من يمتلكون القدرة التقنية. وبينما يزيد ذلك إمكانات الاختبار لدى فرق red-team التي تعمل لصالح البنوك وشركات الطيران ومؤسسات البنية التحتية الحيوية، فإنه يفاقم أيضاً خطر استخدام الأدوات نفسها لشن هجمات سيبرانية وإحداث أضرار بيولوجية. ويثير عدم إجراء التحقق من الهوية، باستثناء بطاقة الدفع، تساؤلاً حول كيفية تقاسم مسؤولية منع الاستخدام الضار بين المنصة والعملاء ومزودي الخدمات السحابية. كما أن غياب توافق في الآراء داخل القطاع بشأن الإسهام الفعلي لهذه الطريقة في الاختبارات الدفاعية يشير إلى أنه لم يتسنَّ بعد قياس الفائدة التي يتيحها توسيع نطاق الوصول والمخاطر الناجمة عنه بشكل واضح.