Une étude cartographie les compromis de quantification des modèles de langage sur NPU
Un préprint examine des combinaisons d’échelles partagées, de poids et d’activations dans des formats basse précision de type MX pour l’inférence des grands modèles de langage. Les chercheurs explorent conjointement la précision du modèle et les compromis estimés sur le silicium lors de l’intégration d’un cœur tenseur à une NPU de périphérie.
Illustration symbolique · Entreprises / Haber Paper
Détails de l’article
Un préprint examine des combinaisons d’échelles partagées, de poids et d’activations dans des formats basse précision de type MX pour l’inférence des grands modèles de langage. Les chercheurs explorent conjointement la précision du modèle et les compromis estimés sur le silicium lors de l’intégration d’un cœur tenseur à une NPU de périphérie.
L’étude présente ses résultats comme une exploration de l’espace de conception matériel-logiciel pour repérer des configurations prometteuses. Elle n’annonce pas une puce commercialisée; les résultats dépendent des modèles, réglages de quantification et hypothèses matérielles du préprint.
À BUILD 2026, le ministre des Communications a cité l’électricité, la connectivité, le cloud et les puces avancées parmi les freins au développement local de l’IA.
Source: Voice of Nigeria, reporting the Ministry of Communications, Innovation and Digital Economy
L’entreprise canadienne de puces d’IA prévoit d’utiliser les fonds pour déployer davantage de serveurs Galaxy et développer les technologies de processeurs qu’elle concède sous licence.
Des chercheurs d’Ottawa, de Columbia et de Hanyang ont évalué des matériaux et dispositifs post-CMOS pour des neurones artificiels ; il s’agit d’une revue de la littérature, pas d’un nouveau prototype de puce.
Avec votre accord, Google Analytics peut mesurer les visites et les interactions sur le site à l’aide de cookies. Vous pourrez modifier votre choix.
Détails des mesures et de la confidentialité
Google Analytics ne commence les mesures qu’avec votre accord. Après consentement, la mesure automatique peut inclure le défilement, les clics sur des liens externes, les téléchargements, les vidéos, les recherches sur le site et les interactions simples avec les formulaires ; les termes recherchés peuvent être détectés dans les paramètres d’URL. Le code de ce site n’envoie pas les valeurs des champs ; le masquage des e-mails dans la mesure automatique est une précaution au mieux, sans garantie. Notre événement manuel de consultation utilise une URL nettoyée. Vous pourrez modifier votre choix. Le cookie de préférence dure six mois ; la mesure publicitaire et la personnalisation restent désactivées. Les visites qui commencent avec un consentement peuvent aussi transmettre des mesures numériques LCP, INP et CLS après le chargement d’Analytics. Un premier accord ou un accord ultérieur active ces mesures au prochain chargement de page ; le retrait du consentement arrête ces rapports pour la page en cours. Le cookie de préférence dure six mois ; la mesure publicitaire et la personnalisation restent désactivées.
Votre navigateur envoie un signal Global Privacy Control. La mesure est désactivée par défaut ; vous pouvez explicitement modifier ce choix ici.
