Un préprint propose une architecture mémoire partagée pour servir les modèles de langage
L’article étudie une architecture hybride associant des GPU à des ressources de calcul proche mémoire et à une DRAM partagée pour l’inférence des grands modèles de langage. Il se concentre sur les phases de préremplissage et de décodage, qui sollicitent différemment le calcul et la bande passante mémoire.
Illustration symbolique · Entreprises / Haber Paper
Détails de l’article
L’article étudie une architecture hybride associant des GPU à des ressources de calcul proche mémoire et à une DRAM partagée pour l’inférence des grands modèles de langage. Il se concentre sur les phases de préremplissage et de décodage, qui sollicitent différemment le calcul et la bande passante mémoire.
Les auteurs étudient si la mémoire partagée peut réduire le déséquilibre des ressources lorsque ces phases sont séparées. Il s’agit d’une étude d’architecture, pas d’un service déployé ni d’un processeur commercial annoncé; les performances se limitent au dispositif évalué dans l’article.
À BUILD 2026, le ministre des Communications a cité l’électricité, la connectivité, le cloud et les puces avancées parmi les freins au développement local de l’IA.
Source: Voice of Nigeria, reporting the Ministry of Communications, Innovation and Digital Economy
L’entreprise canadienne de puces d’IA prévoit d’utiliser les fonds pour déployer davantage de serveurs Galaxy et développer les technologies de processeurs qu’elle concède sous licence.
Des chercheurs d’Ottawa, de Columbia et de Hanyang ont évalué des matériaux et dispositifs post-CMOS pour des neurones artificiels ; il s’agit d’une revue de la littérature, pas d’un nouveau prototype de puce.
Avec votre accord, Google Analytics peut mesurer les visites et les interactions sur le site à l’aide de cookies. Vous pourrez modifier votre choix.
Détails des mesures et de la confidentialité
Google Analytics ne commence les mesures qu’avec votre accord. Après consentement, la mesure automatique peut inclure le défilement, les clics sur des liens externes, les téléchargements, les vidéos, les recherches sur le site et les interactions simples avec les formulaires ; les termes recherchés peuvent être détectés dans les paramètres d’URL. Le code de ce site n’envoie pas les valeurs des champs ; le masquage des e-mails dans la mesure automatique est une précaution au mieux, sans garantie. Notre événement manuel de consultation utilise une URL nettoyée. Vous pourrez modifier votre choix. Le cookie de préférence dure six mois ; la mesure publicitaire et la personnalisation restent désactivées. Les visites qui commencent avec un consentement peuvent aussi transmettre des mesures numériques LCP, INP et CLS après le chargement d’Analytics. Un premier accord ou un accord ultérieur active ces mesures au prochain chargement de page ; le retrait du consentement arrête ces rapports pour la page en cours. Le cookie de préférence dure six mois ; la mesure publicitaire et la personnalisation restent désactivées.
Votre navigateur envoie un signal Global Privacy Control. La mesure est désactivée par défaut ; vous pouvez explicitement modifier ce choix ici.
