Semi-conducteurs : les inventions et pistes de recherche les plus prometteuses
Les semi-conducteurs sont devenus l'un des nerfs de la guerre de l'IA. Le JDN s'est penché sur leur futur en scrutant les pistes d'évolution les plus prometteuses.
Le GPU optimization stack ou l’IA comme écosystème
Ensemble des couches logicielles et matérielles qui permettent d'optimiser la puissance de calcul d'un GPU, l’optimization stack permet de minimiser les ressources consommées par l’IA, à l’heure où le coût du token devient, comme Jensen Huang l’a affirmé lors de la conférence annuelle de Nvidia, un enjeu majeur.
Il comprend l’intégralité de la chaîne de valeur de l’IA, depuis le silicium brut jusqu'à l'application finale. Il s’agit donc d’optimiser aussi bien le matériel (architecture du GPU, bande passante mémoires, nombre de cœurs) que les drivers (qui font l'interface entre le système d'exploitation et le matériel, à l’instar de la plateforme de programmation CUDA chez Nvidia), les bibliothèques écrites par les fabricants de puces et optimisées pour leur matériel (cuDNN pour l’apprentissage profond, TensorRT pour l'inférence), ou encore les frameworks d’apprentissage profond (PyTorch, TensorFlow).
Pour Ian Cutress, PDG de More than Moore, un cabinet d’analystes spécialisé dans les semiconducteurs, c’est la capacité de Nvidia à raisonner sur l’intégralité du stack qui explique sa domination écrasante sur le marché de l’IA, davantage que la puissance de ses processeurs graphiques (GPUs).
"CUDA n'est pas simplement un langage de programmation, c'est un écosystème complet de bibliothèques, d'outils familiers des développeurs, de kernels optimisés, de flux de déploiement et de réglages bas niveau. Aujourd’hui, les GPUs ne se vendent plus uniquement sur la base du nombre de FLOPS, mais aussi et surtout sur la capacité des clients à en extraire réellement les performances, à déployer des modèles, à déboguer des systèmes et à passer à l'échelle sur des clusters entiers."
Si Nvidia a de l’avance, ses concurrents ont toutefois pris bonne note et sont également en train de développer leur propre écosystème. "AMD progresse dans ce domaine avec ROCm, tandis que d'autres fournisseurs s'appuient sur l'écosystème ouvert de frameworks tels que PyTorch, TensorFlow, et des plateformes comme Hugging Face."
Le calcul fongible ou les ressources informatiques interchangeables
Le fungible compute ou calcul fongible est un concept d'infrastructure informatique qui repose sur l'idée de rendre les ressources de calcul (processeurs, mémoire, stockage, réseau) interchangeables, mutualisées et allouables dynamiquement, plutôt que fixes et dédiées à une machine ou un usage particulier.
De Google à Nvidia, en passant par Oracle, les géants de l’IA poussent actuellement ce concept au sein de leurs centres de données, afin de repenser intégralement leur infrastructure pour optimiser l’efficacité énergétique de l’IA et s’adapter facilement aux nouveaux usages.
"Nous redéfinissons complètement l'infrastructure cloud", a récemment déclaré Pradeep Vincent, vice-président senior et architecte technique en chef d'Oracle Cloud Infrastructure. Microsoft, l’un des trois géants du cloud avec Amazon et Google, a récemment acquis Fungible, spécifiquement dans cette optique. Cette jeune pousse utilise un type de microprocesseur baptisé unité de traitement de données (DPU), à faible consommation énergétique. Selon l'entreprise, cette technologie permet d’améliorer l’efficacité des calculs dans les nœuds serveurs, ainsi que l'échange de données entre ces nœuds. Microsoft entend ainsi rendre l'infrastructure de ses centres de données plus performante, évolutive, désagrégée et déployée à grande échelle, tout en étant fiable et sécurisée.
A San Francisco, la start-up Decart, qui permet aux développeurs d’IA d’alterner facilement entre les processeurs de Nvidia, Amazon, Google et consorts, a atteint la valorisation de 4 milliards de dollars après un tour d’investissement dans lequel Nvidia a mis 300 millions.
Citons encore la jeune pousse NextSilicon, une start-up israélienne dont la puce Maverick-2 utilise une architecture dataflow qui se reprogramme en temps réel en fonction du type de calcul en cours. "L'entreprise cherche à dépasser le clivage traditionnel entre CPU et GPU en exécutant les calculs au plus près de la structure du programme lui-même, plutôt que de tout faire transiter par un flux d'instructions conventionnel", explique Ian Cutress.
La photonique sur silicium
Cette technologie consiste, comme son nom l’indique, à intégrer des composants optiques (guide d’onde, modulateur de signal, photodétecteur...) sur une puce en silicium. Contrairement à une puce traditionnelle, l’information y circule sous forme de photons sur du silicium et non d’électrons sur des fils de cuivre. La lumière permet de transmettre des volumes de données beaucoup plus importants avec moins d'énergie.
La technologie n’est à vrai dire pas si nouvelle : dès les années 1980, des chercheurs ont commencé à proposer de placer des circuits conçus pour les photons sur la même puce que des circuits conçus pour les électrons, et au début des années 2000, Intel réalise des recherches pionnières en la matière. Mais c’est l’essor de l’IA qui donne un véritable coup de fouet à cette technologie, en rendant le rapport volume de données transmis/énergie particulièrement stratégique. "Déplacer les données par voie électrique devient trop coûteux en termes de portée et de consommation d'énergie ", estime Ian Cutress.
Début mars, l’européen STMicroelectronics a annoncé la production à grande échelle de sa plateforme de pointe PIC100 basée sur la photonique sur silicium. "En regardant vers l'avenir, nous planifions et mettons en œuvre des augmentations de capacité pour permettre une production multipliée par plus de quatre d’ici 2027. Cette montée en puissance rapide s’appuie entièrement sur les engagements de réservation de capacité à long terme de nos clients", avait alors déclaré Fabio Gualandris, président Qualité, Fabrication & Technologie de STMicroelectronics.
Les géants Samsung, TSMC, AMD, ainsi que les jeunes pousses Ayar Labs, qui a levé 500 millions de dollars début mars, et Lightmatter, dans laquelle investissent les hyperscalers, sont également actifs dans ce domaine.
"Cette technologie est hautement stratégique, car les systèmes d'IA sont de plus en plus limités par l'efficacité avec laquelle les GPU, la mémoire, les commutateurs et les racks peuvent communiquer entre eux. Les progrès sont substantiels, avec les chiplets optiques, les optiques co-packagées et les interposeurs photoniques qui passent désormais de la recherche aux feuilles de route produits. Les clusters les plus importants devraient y passer à court terme, tandis que le cuivre restera dominant sur une grande partie du marché", estime Ian Cutress.
L’informatique neuromorphique
Il s’agit sans doute de l’approche la plus révolutionnaire parmi toutes les innovations citées dans cet article, puisqu’il s'agit ni plus ni moins que de repenser l’architecture fondamentale des puces en mettant en place une alternative à l'architecture de Von Neumann qui équipe tous nos ordinateurs actuels. Pour ce faire, l’informatique neuromorphique s’inspire du fonctionnement du cerveau humain, à travers des neurones et synapses artificiels.
"La prochaine génération d'IA et de calcul hyperscale nécessite un abandon de l'architecture de Von Neumann traditionnelle au profit de conceptions nouvelles qui privilégient l'équilibre entre performance brute, efficacité énergétique extrême et flexibilité architecturale", estime Mina Kim, principal economist de MKEcon Insights, une plateforme de recherche et d’intelligence économique
Outre la perspective d’une plus grande efficacité énergétique et d’une latence plus faible, cette nouvelle architecture est vue comme stratégique pour les usages de pointe, tels que la robotique, l'IA embarquée et l'apprentissage adaptatif.
Pour Ian Cutress, elle n’a pas vocation à remplacer les GPUs, les deux écosystèmes étant plutôt voués à cohabiter. "Je la décrirais plutôt comme une architecture spécialisée à long terme, susceptible de devenir importante là où les données événementielles et la consommation ultra-faible en énergie sont primordiales." Intel est particulièrement actif dans ce domaine, avec sa puce Loihi 2. Citons aussi IBM avec TrueNorth, et la start-up BrainChip avec sa puce Akida, ou encore l’INRIA, en France.