Haberin ayrıntıları

Bir ön baskı, büyük dil modeli çıkarımında MX benzeri düşük duyarlıklı biçimlerde paylaşılan ölçek, ağırlık ve etkinlik birleşimlerini inceliyor. Araştırmacılar tensör çekirdeğini uç sinir işleme birimiyle bütünleştirirken model doğruluğu ile tahmini silikon ödünleşimlerini birlikte araştırıyor.

Çalışma bulgularını umut verici yapılandırmaları belirlemeye yönelik donanım-yazılım tasarım alanı taraması olarak sunuyor. Piyasaya çıkan bir çip duyurusu değil; sonuçlar makaledeki modeller, nicemleme ayarları ve donanım varsayımlarına bağlı.