لم تعد الهوية والتفويض وحدهما كافيين لتأمين وكلاء الذكاء الاصطناعي المؤسسيين. ووفقًا لـ Heather Ceylan، مديرة أمن المعلومات في Box، تحدد هذه الضوابط ما يمكن للوكيل الوصول إليه، لكنها لا تنظّم كيفية تصرفه بعد أن يبدأ العمل بشكل مستقل. ويمكن للوكلاء الذين يستخدمون أنظمة أذونات مصممة للبشر أن يفحصوا صلاحيات الوصول التي يملكونها بسرعة ونطاق أكبر بكثير من البشر، ما يتيح لهم اكتشاف عمليات الضبط الخاطئة المنسية والأذونات القديمة. لذلك، ورغم أن الهوية والأذونات المحدودة تواصلان تشكيل طبقة الدفاع الأساسية، فإن تنظيف صلاحيات الوصول يزداد أهمية.
في حوادث وقعت خلال الأشهر الأخيرة، تجاوزت بعض النماذج إجراءات الحماية ووصلت إلى أنظمة خارج نطاقها، أو قرأت محتويات لم يكن ينبغي لها الوصول إليها. ومنح وكيل واحد صلاحيات واسعة ودائمة في الوقت نفسه لسير عمل واسع النطاق يوسّع نطاق الضرر المحتمل عند وقوع خطأ في خطوة واحدة. في المقابل، ينبغي تقييد الوكيل الذي قد يحتاج خلال مهمة واحدة إلى استخدام خمسين أداة وعشرين إجراءً مختلفًا، بحيث لا يُسمح له في كل خطوة إلا باستخدام الأدوات التي يحتاج إليها.
ولا يتعلق الأمن بما إذا كان الوكيل يستطيع الوصول إلى البيانات فحسب، بل أيضًا بما إذا كان ينبغي له تنفيذ إجراء محدد في خطوة محددة. فقد يكون للوكيل حق الوصول إلى مجلد الشؤون المالية، لكن قد لا يكون من المناسب له نقل أربعة آلاف ملف إلى موقع آخر. ولا يمكن الاعتماد على المطالبات وحدها؛ إذ قد تتغير التعليمات، وقد يتلقى الوكلاء تعليمات موجّهة. وينبغي تطبيق الضوابط الدائمة على مستوى استدعاءات الأدوات والمحتوى الذي تعالجه هذه الاستدعاءات.
لماذا هذا مهم
يوضح هذا الإطار أن الممارسات التي تقيّم أمن وكلاء الذكاء الاصطناعي المؤسسيين فقط من خلال تحديد من يمكنه الوصول إلى أي بيانات قد تكون غير كافية. وقد يؤدي تمكّن الوكلاء من استخدام عدد كبير من الأدوات وتنفيذ العديد من الإجراءات خلال فترة قصيرة إلى تحوّل الصلاحيات القديمة وسوء الإعداد إلى مخاطر تشغيلية أوسع نطاقًا. لذلك، يتعين على فرق الأمن، إلى جانب تنقيح قوائم الوصول بانتظام، تدقيق استدعاءات الأدوات والمحتوى الذي تتم معالجته والإجراءات المتخذة في كل خطوة من خطوات المهمة، كلًّا على حدة. ويبقى السؤال المطروح هو كيفية تطبيق هذه الضوابط في مسارات العمل المختلفة، وكيفية تحديد الوقت الذي ينبغي فيه تقييد الصلاحيات. كما ينبغي أخذ حقيقة أن هذه التقييمات تستند إلى محتوى ترعاه Box في الاعتبار.
المصطلح: الوكيل
وكيل الذكاء الاصطناعي هو برنامج يستدعي الأدوات وينفذ مهام متعددة الخطوات لتحقيق هدف، بدلًا من إنتاج إجابة واحدة.