Nvidia face au mur

Quand le problème de l'intelligence artificielle n'est plus de calculer, mais de déplacer les données.

IA

Sylvain Morizet

11/20/20269 min read

Nvidia est devenu l'un des acteurs les plus puissants de l'économie mondiale. Ses processeurs équipent une grande partie des infrastructures qui permettent d'entraîner et de faire fonctionner les modèles d'intelligence artificielle. Les géants de la technologie investissent des dizaines de milliards de dollars dans des centres de données largement construits autour de ses solutions.

Cette domination semble difficile à contester. Pourtant, une faiblesse apparaît. Elle ne relève ni d'un défaut de conception ni d'un retard technologique, mais d'une contrainte beaucoup plus fondamentale : la vitesse à laquelle les données peuvent circuler entre la mémoire et les unités de calcul.
Et cette limite physique pourrait redistribuer une partie des cartes.

Un empire construit sur une idée brillante

À l'origine, les GPU (Graphics Processing Units) étaient conçus pour les jeux vidéo. Leur fonction consistait à réaliser simultanément un très grand nombre d'opérations relativement simples, notamment pour traiter les pixels d'une image. Contrairement aux processeurs traditionnels (CPU), capables d'effectuer une grande variété de tâches, les GPU excellent dans le calcul massivement parallèle.

Au début des années 2000, des chercheurs comprennent qu'ils peuvent détourner cette puissance graphique pour effectuer d'autres types de calculs. Nvidia saisit cette opportunité et lance CUDA en 2006, un environnement logiciel permettant d'exploiter les GPU pour le calcul généraliste. C'est probablement l'une des décisions stratégiques les plus importantes de l'histoire récente de l'informatique. CUDA rend cette puissance accessible aux développeurs, aux chercheurs et aux étudiants, y compris sur les cartes graphiques destinées au grand public. Progressivement, tout un écosystème se construit autour de cette technologie.
Lorsque l'intelligence artificielle connaît son essor, Nvidia dispose donc d'un avantage considérable : non seulement des processeurs performants, mais aussi des années de développement logiciel, d'outils et d'habitudes de programmation. Son principal avantage concurrentiel ne réside pas uniquement dans ses puces. Il réside aussi dans le fait que tout le monde sait déjà les utiliser.

Le mur de la mémoire

Pour comprendre les limites qui apparaissent aujourd'hui, il faut distinguer deux étapes dans le fonctionnement d'un grand modèle de langage.

La première, appelée prefill, correspond au traitement initial de la demande. Lorsque nous soumettons un texte à une IA, celle-ci doit analyser les informations reçues. Ces opérations se prêtent particulièrement bien au calcul parallèle. Les GPU y sont remarquablement efficaces.

La seconde étape, appelée decode, consiste à produire la réponse, élément après élément, ou plus exactement token après token. Un token est une unité de texte, qui peut correspondre à un mot, une partie de mot ou un signe de ponctuation. Dans les modèles autorégressifs classiques, chaque nouveau token dépend des précédents. La génération comporte donc une dimension séquentielle incontournable. Or, pour produire chaque token, le processeur doit accéder aux paramètres nécessaires du modèle, ainsi qu'à certaines informations conservées en mémoire.
C'est ici qu'apparaît le problème.

Imaginons un modèle dense de 100 milliards de paramètres, stockés chacun sur un octet. Il représente environ 100 gigaoctets de données. Avec une mémoire capable d'en transférer un téraoctet par seconde, il faut théoriquement un dixième de seconde pour lire cette quantité. Dans cette configuration simplifiée, dix lectures complètes par seconde constituent déjà une limite physique, avant même de prendre en compte les autres opérations.
Bien entendu, les architectures modernes utilisent des mécanismes d'optimisation, des traitements par lots et parfois des modèles qui n'activent qu'une partie de leurs paramètres. Les mémoires les plus récentes sont également beaucoup plus rapides que dans cet exemple.
Mais le principe demeure : augmenter la puissance de calcul ne sert à rien si les unités de calcul passent leur temps à attendre les données.
Ce phénomène porte un nom : le memory wall, ou mur de la mémoire.

C'est l'un des paradoxes de l'IA actuelle. Nous disposons de processeurs capables d'effectuer des quantités phénoménales d'opérations, mais leur efficacité dépend toujours davantage de la vitesse à laquelle nous pouvons les alimenter.

Les agents IA changent les règles du jeu

Cette limitation prend une importance nouvelle avec le développement des agents d'intelligence artificielle.

Dans une conversation classique avec un chatbot, la vitesse de génération n'est pas nécessairement déterminante. Si l'IA écrit plus rapidement que nous ne lisons, le gain supplémentaire présente peu d'intérêt. Mais un agent autonome fonctionne différemment. Il analyse une situation, décide d'une action, exécute celle-ci, récupère un résultat, puis recommence. Il peut enchaîner des dizaines, voire des centaines d'opérations. L'interlocuteur immédiat de l'IA n'est alors plus nécessairement un être humain. C'est un logiciel, un outil ou un autre modèle. La vitesse de génération devient donc un élément du temps global d'exécution. Quelques secondes économisées à chaque étape peuvent représenter un gain considérable lorsqu'elles se multiplient.

Naturellement, tout dépend du temps nécessaire à l'exécution des actions elles-mêmes. Accélérer la génération des tokens n'apporte presque rien si l'agent doit ensuite attendre plusieurs minutes une réponse extérieure. Mais lorsque les échanges sont rapides et nombreux, la latence du modèle devient déterminante. Le marché ne recherche donc plus seulement des machines capables de produire énormément de tokens pour des milliers d'utilisateurs. Il recherche aussi des architectures capables de produire des réponses individuelles extrêmement rapidement.
Ces deux objectifs ne sont pas identiques.

Groq, Cerebras et les nouvelles architectures

C'est précisément sur cette différence que plusieurs concurrents de Nvidia cherchent à se positionner.
L'une des approches consiste à rapprocher la mémoire des unités de calcul. Les GPU traditionnels utilisent notamment une mémoire à très haut débit, appelée HBM. Elle offre une capacité importante, mais les échanges avec les unités de calcul restent coûteux.
D'autres architectures privilégient davantage la SRAM, une mémoire intégrée directement au processeur. Elle est extrêmement rapide, mais aussi beaucoup plus encombrante et coûteuse à fabriquer.
La société américaine Groq a développé des processeurs spécialisés dans l'inférence, les LPU (Language Processing Units). Leur architecture privilégie la rapidité et la prévisibilité des échanges de données.
Cerebras a adopté une approche encore plus spectaculaire. Plutôt que de découper une plaque de silicium en dizaines de processeurs, l'entreprise fabrique une puce occupant pratiquement toute cette plaque. Son processeur WSE-3 rassemble environ 900 000 cœurs de calcul et 44 gigaoctets de SRAM, avec une bande passante interne annoncée de 21 pétaoctets par seconde.

Ces chiffres sont impressionnants, mais ils ne signifient pas que les grands modèles tiennent intégralement dans cette mémoire, ni que cette bande passante est directement comparable à celle de la mémoire externe d'un GPU. L'architecture complète, les communications et le coût d'exploitation demeurent essentiels.
Car la contrepartie de ces innovations est importante : complexité de fabrication, refroidissement, consommation électrique, coût des équipements et difficultés de passage à grande échelle.
La solution la plus rapide n'est pas nécessairement la plus rentable.

Une piste française : VSORA

La France possède également un acteur particulièrement intéressant dans cette compétition : VSORA.
L'entreprise développe notamment Jotunn8, un processeur destiné à l'inférence des modèles d'intelligence
artificielle. Son approche repose sur une architecture de type dataflow, autrement dit une organisation du calcul centrée sur la circulation des données.

Dans une architecture conventionnelle, le processeur exécute des instructions successives. Dans une architecture dataflow, on cherche à organiser les opérations en fonction de leurs dépendances, afin que les données circulent le plus efficacement possible entre les différentes unités. L'objectif consiste à réduire les déplacements inutiles, les attentes et les opérations intermédiaires.

VSORA annonce pour Jotunn8 une puissance de 3,2 pétaflops en FP8 et 288 gigaoctets de mémoire HBM3e.
La puce, dont la conception a été finalisée pour fabrication en 2025, est entrée en phase industrielle en 2026. Les chiffres annoncés sont prometteurs, mais ils ne remplacent pas des évaluations indépendantes réalisées sur des systèmes effectivement déployés.
L'intérêt de cette démarche dépasse pourtant la seule question des performances. Elle montre qu'il existe plusieurs façons de concevoir un processeur d'intelligence artificielle. Le GPU généraliste n'est pas nécessairement la réponse optimale à tous les problèmes.

Le véritable verrou est peut-être logiciel

Reste une difficulté majeure : posséder un meilleur processeur ne suffit pas pour conquérir un marché. L'histoire de Nvidia le démontre parfaitement.
CUDA a créé un environnement dans lequel les développeurs peuvent travailler facilement, en s'appuyant sur des bibliothèques, des outils et des compétences largement répandus. Changer de constructeur peut donc imposer des adaptations logicielles importantes, des phases de validation et des risques opérationnels. Une entreprise peut parfaitement identifier une alternative moins coûteuse sans avoir intérêt à l'adopter immédiatement.

C'est sur ce problème que travaille notamment ZML, une entreprise fondée par Steeve Morin. Son ambition consiste à développer une couche logicielle capable d'exécuter des modèles d'intelligence artificielle sur différentes architectures matérielles, sans obliger les développeurs à réécrire l'ensemble de leurs applications.

Nvidia, AMD, les TPU de Google, les processeurs Trainium d'Amazon et d'autres accélérateurs pourraient ainsi être utilisés à partir d'un environnement plus commun. L'exercice est techniquement délicat. Chaque architecture possède ses particularités, et chercher à tout uniformiser risque de faire disparaître les optimisations qui rendent certaines puces intéressantes.
Mais l'enjeu est considérable. Si les utilisateurs peuvent changer de matériel sans bouleverser leur environnement logiciel, les constructeurs seront davantage mis en concurrence sur leurs performances réelles, leur consommation énergétique et leurs tarifs.

Le logiciel qui a permis à Nvidia de construire sa domination pourrait ainsi devenir l'un des instruments de son ouverture à la concurrence.

Nvidia a parfaitement compris la menace

Il serait néanmoins prématuré d'annoncer la chute de Nvidia.

L'entreprise possède des ressources financières, industrielles et logicielles considérables. Elle bénéficie d'une capacité de production à grande échelle, d'un écosystème particulièrement développé et d'une maîtrise des interconnexions entre processeurs.Surtout, elle n'ignore absolument pas les limites de ses architectures.

En décembre 2025, Nvidia a conclu avec Groq un accord de licence technologique non exclusive et recruté plusieurs de ses dirigeants et ingénieurs. Groq est officiellement restée une société indépendante.
En 2026, Nvidia a dévoilé son propre système Groq 3 LPX, destiné à accélérer la génération de tokens aux côtés de ses GPU Vera Rubin.
La stratégie est révélatrice : plutôt que de chercher à faire accomplir toutes les tâches par un même processeur, Nvidia combine des architectures complémentaires. Elle reconnaît ainsi, dans ses propres choix industriels, qu'aucune architecture ne possède nécessairement tous les avantages.
Et c'est probablement là que se trouve le véritable changement.

Une domination remise en question, pas nécessairement une disparition

La compétition autour des processeurs d'intelligence artificielle ne se résumera pas à déterminer quelle entreprise fabrique la puce la plus puissante. Elle portera sur un ensemble de critères : vitesse de génération, latence, capacité mémoire, consommation électrique, coût du token, disponibilité du matériel, compatibilité logicielle et indépendance vis-à-vis des fournisseurs. Ces critères ne conduisent pas toujours au même choix.

Une architecture spécialisée peut devenir incontournable pour certains usages tout en restant moins pertinente pour d'autres. Les GPU conserveront de nombreux avantages, notamment leur polyvalence et leur capacité à s'adapter à des modèles dont les architectures pourraient encore évoluer. Mais l'essor de l'inférence et des agents autonomes révèle une réalité intéressante : la puissance brute n'est plus le seul indicateur pertinent de la performance.

Pendant des décennies, l'industrie informatique a cherché à augmenter le nombre d'opérations qu'un processeur pouvait effectuer chaque seconde. Désormais, elle doit aussi apprendre à limiter le nombre d'opérations et de déplacements de données nécessaires pour parvenir au même résultat. Ce changement pourrait avoir des conséquences économiques et industrielles majeures. Car le prochain bouleversement de l'intelligence artificielle ne viendra peut-être pas d'un modèle plus grand, ni même d'un processeur capable de calculer davantage.

Il pourrait venir d'une machine qui a simplement besoin de déplacer moins de données pour accomplir le même travail.

Réseaux Sociaux & Cie

Rejoignez-nous sur les réseaux sociaux suivants

RESTONS EN CONTACT

© 2024. All rights reserved.

Organisations professionnelles