عاد الجدل حول ما إذا كان الذكاء الاصطناعي يشكل تهديدًا وجوديًا للبشرية إلى الواجهة، بعدما أعلن الباحث Jacob Coxon، الذي كان يعمل في Anthropic، مغادرته الشركة. وقال Coxon إن شركات الذكاء الاصطناعي الرائدة «تقامر بحياتنا». كما دعم قائد قسم مواءمة الذكاء الاصطناعي في Anthropic هذا المنشور، وكتب أنهم يؤمنون فعلًا داخل الشركة بأن الذكاء الاصطناعي قد يقتل جميع البشر، وأن احتمال حدوث ذلك خلال السنوات الـ10 المقبلة، وفقًا لتقديره، هو «>10%».
ناقش Anthony Ha وKirsten Korosec وSean O’Kane هذه التصريحات في بودكاست Equity التابع لـTechCrunch. وقال Ha إن هذه النسبة لا تستند إلى أي حساب، وإن النسب المئوية غير المستندة إلى أساس تُستخدم كثيرًا في قطاع التكنولوجيا. لكنه رأى أن مغادرة Coxon وظيفته، مخاطِرًا بمسيرته المهنية بسبب مخاوفه، تختلف عن التصريحات الأخرى من حيث توافق أقواله مع أفعاله.
وتساءلت Korosec عما إذا كان حديث الشركات عن خروج أنظمة الذكاء الاصطناعي عن السيطرة أو تشكيلها خطرًا على البشرية يمثل طريقة غير مباشرة لإظهار مدى تطور نماذجها. وقال Ha إن هذه التصريحات ليست مجرد خطوة تسويقية متعمدة، وإن كثيرًا من الباحثين والمديرين يحملون مخاوف حقيقية. لكنه أشار في الوقت نفسه إلى أن رسالة «لقد طورنا أخطر برمجيات العالم» قد تتماشى أيضًا مع المصالح التجارية للشركات.
وقال O’Kane إن تطورات من قبيل وصول وكلاء الذكاء الاصطناعي الداخليين في OpenAI إلى الويكي على الويب وتركهم رسائل لبعضهم بعضًا، أعطت انطباعًا بأن الشركات لا تستطيع السيطرة على أنظمتها بشكل كامل. كما نوقش كيف ستُدرج العبارات وعوامل الخطر المتعلقة باحتمال أن يقضي الذكاء الاصطناعي على البشرية في طلب S-1 الذي سيُعد قبل الطرح العام المحتمل لشركة Anthropic. وأشار المتحدثون إلى أن مثل هذه التصريحات قد تزيد التقييم بدلًا من خفضه، باعتبارها «استعراضًا» لقدرات النماذج.
وقال Ha، الذي يتعامل بتشكك مع خطاب التهديدات الوجودية، إنه ينبغي أيضًا مناقشة الأضرار الأقرب أمدًا للذكاء الاصطناعي على العمل والبيئة والمناخ. كما تناول البرنامج، بمشاركة المدير التنفيذي لشركة KontrolAI في الولايات المتحدة Connor Leahy، كيفية مراقبة الجوانب الخطرة للذكاء الاصطناعي.
لماذا هذا مهم
تكمن أهمية النقاش في أن المخاوف داخل الشركات بشأن سلامة الذكاء الاصطناعي لا تقتصر على التصريحات العلنية، بل تؤثر أيضًا في قرارات الموظفين والاتصالات المؤسسية للشركات. إن استخدام نسبة احتمالية لا تستند إلى أساس لدعم ادعاء بهذه الخطورة يترك سؤالًا مفتوحًا بشأن كيفية قياس سيناريوهات الكارثة ونقلها إلى الرأي العام. كما أن إمكانية تحوّل التحذيرات نفسها إلى أداة تسويقية تستعرض قدرات النماذج تجعل الحدود بين خطاب السلامة والمصالح التجارية غير واضحة. ويُظهر تحديد كيفية التعبير عن المخاطر في الطرح العام المحتمل لشركة Anthropic أن هذا التوتر قد يتحول إلى اختبار ملموس بالنسبة إلى المستثمرين والرأي العام. كذلك يذكّر النقاش بضرورة عدم تهميش قضايا العمل والبيئة والمناخ والرقابة إلى جانب المخاطر الوجودية.