NVIDIA : GPU, CUDA, NIM, Nemotron et rôle dans l'IA en entreprise

NVIDIA est un concepteur de puces et de plateformes de calcul basé à Santa Clara, en Californie. L'entreprise ne fabrique pas elle-même ses puces, produites principalement par TSMC : elle les conçoit, les assemble en systèmes complets et fournit la couche logicielle qui permet de les exploiter. Pour l'IA, son produit central est le GPU, un processeur capable d'exécuter des milliers d'opérations en parallèle.

NVIDIA est fondée en avril 1993 par Jensen Huang, Chris Malachowsky et Curtis Priem, avec l'ambition d'accélérer le rendu graphique des jeux vidéo. En 1999, elle commercialise la GeForce 256, qu'elle présente comme le premier GPU. Le tournant vers le calcul généraliste arrive en 2006 avec CUDA, qui permet de programmer les GPU pour autre chose que l'affichage. En 2012, le réseau de neurones AlexNet, entraîné sur deux cartes NVIDIA, remporte le concours ImageNet et marque le début de l'essor du deep learning sur GPU.

Depuis, NVIDIA a étendu son offre bien au-delà de la puce : réseaux à haut débit après le rachat de Mellanox en 2020, processeurs Grace puis Vera, systèmes DGX, logiciels d'inférence et modèles à poids ouverts. Fin 2025, elle conclut un accord de licence avec Groq, spécialiste des puces d'inférence, dont une partie de l'équipe dirigeante la rejoint. En septembre 2026, elle annonce un accord pour acquérir Hugging Face. L'arrivée de l'IA générative a fait des centres de données sa principale activité, loin devant le jeu vidéo.

À retenir : NVIDIA vend moins des puces qu'une plateforme complète. Pour une équipe technique, ce qui compte au quotidien est surtout la compatibilité logicielle apportée par CUDA et les outils construits au-dessus.

NVIDIA renouvelle son architecture de centre de données environ chaque année, et nomme chaque génération d'après une figure scientifique. Les références exactes et leurs caractéristiques évoluent vite : mieux vaut raisonner par génération et vérifier la disponibilité chez son fournisseur de cloud.

NVIDIA a déjà annoncé les étapes suivantes : Rubin Ultra en 2027 et l'architecture Feynman en 2028. À la GTC 2026, elle a aussi présenté Groq 3 LPX, une baie d'accélérateurs d'inférence issus de la technologie Groq, conçue pour fonctionner aux côtés des systèmes Vera Rubin. Pour les postes de travail, le DGX Spark, commercialisé depuis fin 2025, permet de faire tourner localement des modèles de plusieurs dizaines de milliards de paramètres.

Comment choisir la bonne génération ?

La génération la plus récente n'est pas toujours la plus rentable. Pour l'inférence d'un modèle de taille moyenne, un GPU Hopper ou une carte RTX PRO bien utilisés suffisent souvent, à un coût horaire bien inférieur. Les baies Blackwell ou Rubin se justifient pour l'entraînement à grande échelle ou pour servir de très grands modèles à fort trafic. Le critère décisif est souvent la mémoire du GPU : elle détermine la taille du modèle que l'on peut charger, et la quantization permet d'en réduire le besoin.

Le cycle de vie d'un modèle d'IA comporte deux phases de calcul très différentes, et NVIDIA intervient dans les deux.

• Entraînement : un modèle de fondation s'entraîne sur des milliers de GPU reliés entre eux pendant des semaines. La performance dépend autant des puces que du réseau (NVLink à l'intérieur d'une baie, InfiniBand ou Ethernet Spectrum-X entre les baies) et des bibliothèques de communication comme NCCL. C'est le terrain historique de NVIDIA, avec les systèmes DGX SuperPOD et les clusters des grands clouds.
• Inférence : une fois entraîné, le modèle doit répondre à des millions de requêtes avec une latence et un coût maîtrisés. Avec les modèles de raisonnement et les agents, qui génèrent beaucoup de tokens, l'inférence est devenue le premier poste de calcul. NVIDIA y répond par TensorRT-LLM, qui optimise l'exécution d'un modèle sur un GPU, et par Dynamo, présenté en 2025, qui répartit le service d'un modèle sur de nombreux GPU en séparant les phases de lecture du prompt et de génération.

Dynamo intègre Triton Inference Server, renommé Dynamo-Triton, et peut s'appuyer sur plusieurs moteurs, dont TensorRT-LLM, vLLM et SGLang. Les microservices NIM ajoutent une couche plus simple : un modèle déjà optimisé, prêt à déployer dans un conteneur avec une API compatible avec celle d'OpenAI. Pour la plupart des équipes, le choix se fait entre un serveur open source configuré soi-même et une solution empaquetée comme NIM, selon le niveau de contrôle et de support recherché.

À retenir : même sans acheter de GPU, une équipe qui héberge un modèle ouvert utilise presque toujours la pile NVIDIA, directement ou via son cloud. Connaître CUDA, la mémoire des GPU et les serveurs d'inférence aide à dimensionner et à réduire les coûts.

La réponse varie selon la couche. NVIDIA est une entreprise commerciale dont l'essentiel du chiffre d'affaires vient du matériel, et une partie de son logiciel reste propriétaire. Mais elle publie aussi de nombreuses briques et des modèles ouverts.

• Propriétaire : CUDA et la plupart de ses bibliothèques de base (cuDNN, cuBLAS) sont fermés, bien que téléchargeables gratuitement. Ils ne fonctionnent que sur des GPU NVIDIA, ce qui explique l'effet de verrouillage souvent évoqué.
• Open source : TensorRT-LLM, Dynamo, Dynamo-Triton, plusieurs composants de NeMo comme NeMo Guardrails ou NeMo Curator, et depuis 2022 les modules noyau de ses pilotes GPU pour Linux.
• Modèles à poids ouverts : la famille de LLM Nemotron, dont la génération Nemotron 3 (Nano, Super et Ultra) est publiée entre fin 2025 et mi-2026 et repose sur une architecture à mélange d'experts. NVIDIA publie aussi une partie des données et des recettes d'entraînement. D'autres modèles couvrent la parole, l'embedding, la robotique (GR00T) et la simulation du monde physique (Cosmos).
• Licences : les modèles NVIDIA sont distribués sous des licences qui autorisent l'usage commercial, mais qui diffèrent d'un modèle à l'autre et ne sont pas toujours des licences open source standard. Elles se vérifient sur la fiche de chaque modèle, sur Hugging Face ou sur le catalogue de NVIDIA.

Les modèles Nemotron ne visent pas seulement la concurrence avec Meta AI ou Mistral AI : ils servent aussi de démonstration pour les logiciels d'optimisation de NVIDIA, et sont souvent proposés directement sous forme de NIM.

AMD est le principal concurrent de NVIDIA sur les GPU pour centres de données. Ses accélérateurs Instinct équipent plusieurs grands clouds, et OpenAI comme Anthropic ont annoncé des déploiements à grande échelle de sa génération MI450. Les différences tiennent surtout à l'écosystème logiciel.

Lequel choisir ? NVIDIA reste le choix le plus simple lorsqu'on veut la compatibilité la plus large, des outils d'optimisation éprouvés et la possibilité de changer de cloud sans changer de pile. AMD devient pertinent lorsque le prix, la quantité de mémoire par GPU ou la disponibilité l'emportent, et que la charge repose sur des briques bien prises en charge par ROCm, comme PyTorch et vLLM. Dans les deux cas, testez votre modèle réel, avec votre serveur d'inférence et votre trafic, et comparez le coût par million de tokens servis plutôt que les performances annoncées. Les deux fabricants s'appuient d'ailleurs sur le même fondeur, TSMC.