Makale, büyük dil modeli çıkarımı için GPU’ları belleğe yakın işlem kaynakları ve paylaşımlı DRAM ile birleştiren karma bir mimariyi inceliyor. İstekler sunulurken hesaplama ve bellek bant genişliğini farklı biçimde zorlayan ön doldurma ve çözümleme aşamalarına odaklanıyor.

Yazarlar, aşamalar ayrıldığında paylaşımlı belleğin kaynak dengesizliğini azaltıp azaltamayacağını araştırıyor. Bu bir mimari çalışmadır; kullanıma alınmış hizmet veya ticari işlemci duyurusu değildir. Performans iddiaları makalede değerlendirilen kurulumla sınırlıdır.