Detalles de la noticia

El artículo estudia una arquitectura híbrida que combina GPU con recursos de procesamiento cercano a memoria y DRAM compartida para inferencia de grandes modelos de lenguaje. Se centra en las fases de prellenado y decodificación, que someten al cálculo y al ancho de banda de memoria a demandas distintas.

Los autores investigan si la memoria compartida puede reducir el desequilibrio de recursos al separar esas fases. Es un estudio de arquitectura, no un servicio desplegado ni un anuncio de procesador comercial; las afirmaciones de rendimiento se limitan al entorno evaluado en el artículo.