Haberin ayrıntıları

EdgeKernelBench, büyük dil modellerinin farklı uç donanımlar için çekirdek kodu üretip üretemeyeceğini araştırıyor. Ön baskı, ortak bir ara gösterim ve iş yüklerini farklı arka uçlara bağlayan hiyerarşik bir kıyaslama sunuyor.

Yazarlar, uç donanım çeşitliliği, parçalı yazılım yığınları ve dar kaynakların bu görevi sunucu GPU’larındaki çekirdek üretiminden ayırdığını belirtiyor. Bu bir araştırma kıyaslaması ve dağıtım çerçevesi; piyasaya çıkan ürün değil.