Detalles de la noticia

Los investigadores presentan PACT, un sistema de ajuste fino LoRA en GPU de consumo que usa operaciones matriciales NVFP4 nativas para proyecciones congeladas. El artículo también trata la memoria de activaciones y el coste de cuantizar y des-cuantizar datos.

El trabajo busca reducir cuellos de botella de cálculo y memoria durante el ajuste fino. Es un preprint sobre un sistema evaluado, no una nueva GPU ni una garantía de resultados iguales en todos los equipos.