في الأسابيع الأخيرة، حذّر مسؤولون في بعض شركات الذكاء الاصطناعي الكبرى من أن التكنولوجيا التي يطوّرونها قد تكون خطيرة. وقال Dario Amodei، CEO في Anthropic، إنه ينبغي إبطاء وتيرة التقدم، بينما ذكر Sam Altman، CEO في OpenAI، أنه يتفق معه على ضرورة ضبط سرعة أبحاث “frontier”.
واتهم الباحث Jacob Coxon، الذي غادر Anthropic، شركة Anthropic وOpenAI التي سبق أن عمل فيها بعدم التصرف بمسؤولية. وكتب Coxon أن مطوّري الذكاء الاصطناعي يعتقدون أن هذه التكنولوجيا قد تقتل البشرية جمعاء بحلول نهاية العقد. كما وافق موظف Anthropic Evan Hubinger على هذا الرأي، وقال إنه يرى احتمال حدوث ذلك خلال العقد المقبل بنسبة “>10%”.
تتمثل إحدى المخاوف في أن يساعد الذكاء الاصطناعي على تصميم أسلحة بيولوجية، مثل فيروسات قاتلة تستهدف جينات البشر، أو فطريات تدمر الزراعة، أو سموم يمكن إضافتها إلى المياه من دون اكتشافها. وأظهر باحثون في Collaborations Pharmaceuticals في 2022 أنه باستخدام مولّد جزيئات طوّروه، تم إنتاج 40.000 جزيء خلال أقل من ست ساعات يمكن أن تكون عوامل حرب كيميائية، وأن بعضها صُمّم ليكون أكثر سمية من عوامل الأعصاب المعروفة.
ورأى David Magnus من Stanford أن هذا الأمر مخيف للغاية. ووفقًا للباحثة في الأمن البيولوجي Dunja Sabra من جامعة هامبورغ، تستطيع روبوتات الذكاء الاصطناعي تقديم معلومات علمية وتعليمات للتجارب ودروس تدريبية بالفيديو. ويزيد انتشار تعديل الجينات والبيولوجيا التركيبية والمختبرات المنزلية من المخاطر.
وتوجد عمليات فحص للـDNA، و“red-teaming”، و“blue-teaming”، وتدابير أمنية للذكاء الاصطناعي؛ إلا أن Sabra تشير إلى أن شخصًا مصممًا قد ينجح في نهاية المطاف.
لماذا يهم ذلك
تُظهر هذه المناقشة أن أمن الذكاء الاصطناعي لا يقتصر فقط على كيفية تصرف الأنظمة، بل يشمل أيضًا احتمال إساءة استخدام التهديدات البيولوجية والكيميائية في مرحلة التصميم. ورغم أن فحوصات الـDNA الحالية، وأساليب الرقابة بين الفرق، وتدابير الأمن الأخرى تهدف إلى الحد من المخاطر، فإن السؤال حول ما إذا كانت كافية لمنع محاولة شخص مصمم لا يزال مفتوحًا. ولذلك، فإن السؤال الأساسي لا يتعلق بكيفية ضبط سرعة التطوير فحسب، بل أيضًا بالمرحلة التي ينبغي فيها تطبيق ضوابط الأمن، وبمدى كفايتها الذي يبرر اعتبارها كافية. ويهم هذا الموضوع مباشرةً مديري وموظفي شركات الذكاء الاصطناعي، إلى جانب الباحثين المهتمين بتعديل الجينات والبيولوجيا التركيبية والمختبرات المنزلية.
المصطلح: الوكيل
وكيل الذكاء الاصطناعي هو برنامج يستدعي الأدوات وينفذ مهام متعددة الخطوات للوصول إلى هدف، بدلًا من إنتاج إجابة واحدة.