أضافت NVIDIA تقنية الذاكرة عالية النطاق الترددي من الجيل الجديد NVIDIA NVHBM إلى NVIDIA NVLink Fusion، بهدف تعزيز أداء الذاكرة وكفاءتها في البنية التحتية للذكاء الاصطناعي. وتنقل التقنية وحدة التحكم في الذاكرة من XPU إلى قاعدة مكدس 3D HBM، ما يوفر نطاقًا تردديًا للذاكرة أعلى بنسبة تصل إلى 30%، واستهلاكًا أقل لطاقة HBM بنسبة 15%، ومساحة أكبر بنسبة تصل إلى 25% على شريحة المعالجة XPU، مقارنةً بذاكرة HBM4E القياسية.
ستُطرح NVHBM من جانب عدة مورّدين للذاكرة. وستعمل وحدة Annapurna Labs التابعة لـAmazon على التقنية ضمن تعاونها مع NVIDIA، وستدعم بنية التوسّع الخاصة بـNVLink. كما تخطط AWS لتكييف الجيل الجديد من شرائح Trainium مع NVLink Fusion، بدءًا من Trainium4، ما سيتيح لشرائح Amazon ووحدات NVIDIA GPU العمل معًا ضمن بنية مشتركة على مستوى الرفوف.
لماذا يُعد ذلك مهمًا
يُظهر هذا التطور أن قدرة الذاكرة على نقل البيانات واستهلاكها للطاقة يحددان تصميم الأنظمة في البنية التحتية للذكاء الاصطناعي بقدر ما تحدده قوة المعالجة. ويطرح نقل التحكم في الذاكرة إلى طبقة مختلفة نهجًا قد يؤثر مباشرةً في استخدام المساحة وتخطيط الطاقة ضمن تصميم XPU. كما تشير مشاركة عدة مورّدين للذاكرة في التقنية إلى أن NVLink Fusion تتموضع بوصفها بنية تجمع حلول شركات مصنّعة مختلفة، بدلًا من كونها مكوّنًا ماديًا واحدًا. وتطرح خطة AWS لتكييف شرائح Trainium مع هذه البنية مسألة التوافق التقني اللازم لتشغيل المعالجات المخصصة ووحدات NVIDIA GPU ضمن النطاق نفسه على مستوى الرفوف. لكن لم يُكشف بعد عن هوية مورّدي الذاكرة الآخرين أو المنتجات التي ستستخدم هذه البنى.