Un preprint examina combinaciones de escalas compartidas, pesos y activaciones en formatos de baja precisión tipo MX para inferencia de grandes modelos de lenguaje. Los investigadores exploran conjuntamente la precisión del modelo y las compensaciones estimadas de silicio al integrar un núcleo tensorial con una unidad neuronal de borde.

El estudio presenta sus resultados como una exploración del espacio de diseño hardware-software para identificar configuraciones prometedoras. No anuncia un chip comercial; los resultados dependen de los modelos, los ajustes de cuantización y los supuestos de hardware del artículo.