Yapay zekâ çıkarımı dönemi, sağlık araştırmalarını hızlandıran gerçek zamanlı veri analizi ve aynı anda binlerce müşteri talebini çözen asistanlar gibi uygulamaları mümkün kılıyor. Bu hizmetlerin temelinde, sürekli çalışan zekâyı ve IoT ile tüketici cihazlarının akıllı uç noktalarını destekleyen altyapı bulunuyor. Gecikme, darboğaz ve enerji israfı insan sonuçlarını ve işletme maliyetlerini etkiliyor.
Çıkarım iş yüklerinin sürekli, coğrafi olarak dağıtık ve yanıt süresine duyarlı olması; performans, bellek bant genişliği, depolama aktarım hızı ve ağın birlikte tasarlanmasını gerektiriyor. Tirias Research kurucusu ve başanalisti Jim McGregor’a göre yapay zekâ tek bir iş yükü değil, binlerce, milyonlarca ve milyarlarca farklı iş yükünden oluşuyor. Optimizasyon, işlem gücünün yanı sıra bellek, depolama ve ağ koordinasyonuna dayanıyor.
Eski altyapıya modern yapay zekâ sistemleri eklemek yetersiz kalırken ölçeklenebilir, dayanıklı ve verimli mimariler gerekiyor. Bellek ve depolama sistemin merkezine yerleşiyor; veri hattı veriyi almalı, temizlemeli, dönüştürmeli, saklamalı, taşımalı ve sunmalı. Kuruluşlar performansı maliyet, esneklik, ölçeklenebilirlik, watt başına verimlilik, çevresel ayak izi ve geleceğe hazırlıkla dengelemeli; darboğazları büyümeyi sınırlamadan gidermeli.
Terim: çıkarım
Çıkarım, eğitilmiş bir modelin yeni bir girdiye yanıt üretmesidir; eğitimden farklı olarak her kullanımda yeniden maliyet doğurur.