تتيح حقبة استدلال الذكاء الاصطناعي تطبيقات مثل تحليل البيانات في الوقت الفعلي، الذي يسرّع أبحاث الرعاية الصحية، والمساعدين القادرين على معالجة آلاف طلبات العملاء في الوقت نفسه. وتستند هذه الخدمات إلى بنية تحتية تدعم الذكاء الذي يعمل باستمرار، ونقاط النهاية الذكية لأجهزة IoT والأجهزة الاستهلاكية. ويؤثر التأخير والاختناق وهدر الطاقة في النتائج البشرية وتكاليف الأعمال.
إن كون أحمال عمل الاستدلال مستمرة وموزعة جغرافيًا وحساسة لزمن الاستجابة يتطلب تصميم الأداء وعرض نطاق الذاكرة وسرعة نقل البيانات في التخزين والشبكة بصورة متكاملة. ووفقًا لـ Jim McGregor، المؤسس وكبير المحللين في Tirias Research، لا يشكل الذكاء الاصطناعي عبء عمل واحدًا، بل يتكون من آلاف وملايين ومليارات من أحمال العمل المختلفة. ويعتمد التحسين على تنسيق الذاكرة والتخزين والشبكة، إلى جانب القدرة الحاسوبية.
في حين لا يكفي إضافة أنظمة ذكاء اصطناعي حديثة إلى بنية تحتية قديمة، هناك حاجة إلى معماريات قابلة للتوسع ومتينة وفعالة. وتتموضع الذاكرة والتخزين في قلب النظام؛ إذ يجب أن يستقبل مسار البيانات البيانات وينظفها ويحوّلها ويخزنها وينقلها ويقدمها. ويتعين على المؤسسات تحقيق التوازن بين الأداء والتكلفة والمرونة وقابلية التوسع والكفاءة لكل واط والبصمة البيئية والاستعداد للمستقبل؛ كما يتعين عليها إزالة الاختناقات من دون الحد من النمو.
المصطلح: الاستدلال
الاستدلال هو إنتاج نموذج مدرَّب استجابةً لمدخل جديد؛ وعلى خلاف التدريب، تنشأ تكلفته من جديد مع كل استخدام.