Acteurs · Plateformes et open sourceLogo Modal

Modal : GPU serverless, inférence, sandboxes et usages en entreprise

La plateforme cloud américaine qui exécute du code Python sur des GPU à la demande : fondateurs, facturation à la seconde, inférence, sandboxes d'agents, levées de fonds 2026 et différences avec Replicate.

Par Équipe Blent· Mis à jour le · 16 min de lecture· Niveau débutant

Modal en bref

Type
Plateforme cloud serverless pour l'IA
Fondation
2021, à New York
Fondateurs
Erik Bernhardsson, Akshat Bubna
Siège
New York, États-Unis

En bref : Modal

Modal est une plateforme cloud américaine d'infrastructure serverless pour l'IA, fondée en 2021 à New York par Erik Bernhardsson et Akshat Bubna. Elle exécute du code Python sur des CPU et des GPU à la demande : le développeur décrit son environnement et ses fonctions dans son code, et la plateforme les lance, les met à l'échelle et les arrête, avec une facturation à la seconde. Elle sert à l'inférence de modèles, au fine-tuning, aux traitements par lots et aux sandboxes qui isolent le code généré par des agents. Modal a levé des montants importants en 2026, avec une valorisation annoncée de 4,65 milliards de dollars en mai puis de 15,75 milliards en octobre.

En une phrase : Modal est une plateforme cloud serverless qui exécute du code Python sur des GPU à la demande, facturés à la seconde, pour l'inférence, l'entraînement et les agents.

Dans cette fiche

Qu'est-ce que Modal ?

Modal est une plateforme cloud qui permet d'exécuter du code Python sur des CPU et des GPU à la demande, sans acheter de machines ni administrer de cluster. Elle se place entre les fournisseurs de matériel et les équipes de machine learning : on décrit dans son code l'environnement et le matériel voulus, on déploie, et la plateforme lance les conteneurs au moment où des requêtes arrivent, puis les arrête.

La société est fondée en 2021 à New York par Erik Bernhardsson et Akshat Bubna. Erik Bernhardsson, son directeur général, est connu pour avoir travaillé sur la recommandation musicale chez Spotify. Modal a construit son propre runtime de conteneurs et son système de fichiers distribué pour obtenir des démarrages rapides. Après un tour d'amorçage en 2022 et une série A en 2023, la plateforme a accéléré avec l'essor de l'IA générative : série B en septembre 2025, série C de 355 millions de dollars en mai 2026 à 4,65 milliards de valorisation, puis série D de 750 millions en octobre 2026 à 15,75 milliards, selon la presse spécialisée.

Dans l'écosystème, Modal se compare à Replicate, à Together AI ou à Fireworks AI, et à des clouds de GPU comme CoreWeave. Elle illustre le déploiement de modèles d'IA générative en mode serverless.

À retenir : Modal ne publie pas de modèles de pointe. La question utile est de savoir si l'on veut décrire son propre code sur du calcul élastique, ou appeler un modèle déjà prêt.

Quels produits propose Modal ?

L'offre se décrit par type de charge de travail plutôt que par produit isolé, car elle repose sur la même plateforme d'exécution.

OffreTypeUsage principalAccès
InferenceFonctions et points d'accès déployésServir des modèles de langage, d'image, de vidéo ou d'audioSDK Python, facturation à la seconde
SandboxesEnvironnements isolés à la demandeExécuter le code d'agents ou d'utilisateursSDK Python, tarif majoré pour des ressources non préemptibles
TrainingEntraînement et évaluation sur GPUFine-tuning, apprentissage par renforcementSDK Python, GPU à la seconde
BatchTraitements parallèlesTranscription, embeddings, évaluations en masseSDK Python, facturation à la seconde
Model APIsModèles ouverts hébergésAppeler un modèle sans déploiementAPI, facturation au token
VolumesStockage distribuéPoids de modèles et jeux de donnéesFacturation au volume stocké

Modal propose une gamme de GPU NVIDIA, des modèles d'entrée de gamme comme le T4 ou le L4 jusqu'aux générations récentes comme le H100, le H200 ou le B200. Le choix se fait par une ligne dans le code, ce qui permet de comparer le coût et la vitesse de plusieurs configurations.

Comment fonctionne la facturation ?

Modal facture à la seconde les ressources consommées : GPU, cœurs de CPU et mémoire. Un conteneur reste actif un court délai après la dernière requête, puis la facturation s'arrête quand l'application redescend à zéro. Les forfaits incluent des crédits mensuels, et des crédits supplémentaires existent pour les startups et la recherche. Estimez le coût par requête à votre volume réel, et comparez-le à celui de GPU réservés, comme le détaille l'article sur le FinOps des LLM.

Comment déployer une fonction sur Modal ?

Le parcours tient en quelques étapes : décrire l'image du conteneur et les dépendances en Python, annoter la fonction avec le type de GPU, la mémoire et le délai d'inactivité voulus, tester en local avec la commande de la plateforme, puis déployer pour obtenir un point d'accès. Les poids de modèle se placent dans un volume afin de ne pas les retélécharger à chaque démarrage. Ce fonctionnement rapproche l'infrastructure du code, selon le principe de l'Infrastructure as Code, mais il suppose d'accepter le SDK comme couche de déploiement.

Comment choisir une offre ?

Partez de la charge : un service en ligne relève d'Inference, un entraînement ponctuel de Training, un traitement de masse de Batch, et l'exécution de code d'agents de Sandboxes. Si vous voulez seulement appeler un modèle ouvert, les Model APIs évitent d'écrire un déploiement.

Quels produits propose Modal ?

Modal repose sur une même plateforme d'exécution, déclinée en offres selon le type de charge de travail.

  • Production

    Inference

    Déploiement de modèles de langage, d'image, de vidéo ou d'audio derrière un point d'accès, avec mise à l'échelle automatique.

  • Développeurs

    Sandboxes

    Environnements isolés pour exécuter du code non fiable ou généré par des agents, lancés à la demande.

  • Développeurs

    Training

    Fine-tuning, apprentissage par renforcement et évaluation sur GPU, y compris sur plusieurs machines.

  • Production

    Batch

    Traitements parallèles de grands volumes de données, avec des centaines de conteneurs lancés en quelques secondes.

  • Utilisateurs et équipes

    Model APIs

    Modèles ouverts hébergés par Modal et facturés au token, pour appeler un modèle sans écrire de déploiement.

  • Infrastructure

    Volumes et stockage

    Systèmes de fichiers distribués pour partager poids de modèles et jeux de données entre conteneurs.

La réponse varie selon la couche concernée.

  • La plateforme est propriétaire : l'infrastructure qui orchestre les conteneurs et les GPU est un service commercial géré par Modal.
  • Le SDK Python est publié : il permet d'écrire et de déployer ses fonctions, mais il ne fonctionne qu'avec la plateforme.
  • Les modèles ont chacun leur licence : les poids que vous déployez, souvent issus de Hugging Face, restent soumis à leur licence d'origine.

Cette architecture limite l'enfermement à la couche de déploiement. Le code d'un modèle reste du Python standard, empaquetable dans un conteneur et redéployable avec Kubernetes, mais les décorateurs et les volumes propres à Modal sont à réécrire.

À retenir : Modal réduit le travail d'infrastructure, mais la définition des fonctions et des environnements lie le code à un SDK tiers.

Comment utiliser Modal en entreprise ?

Modal convient aux équipes qui veulent du calcul GPU élastique décrit en Python, sans administrer de cluster.

  • Servir un modèle en production

    Exposer un LLM ou un modèle d'image par API, avec des GPU lancés selon le trafic et arrêtés au repos.

  • Fine-tuner un modèle

    Lancer un entraînement sur des GPU loués quelques heures, sans réserver de machines à l'avance.

  • Traiter des données par lots

    Paralléliser une transcription, un calcul d'embeddings ou une évaluation sur de très nombreux conteneurs.

  • Isoler le code d'un agent

    Faire exécuter par un sandbox le code produit par un agent IA, sans risque pour le reste du système.

  • Absorber des pics de charge

    Payer le calcul à la seconde lorsque la demande est irrégulière, plutôt que des GPU immobilisés.

  • Prototyper puis industrialiser

    Passer d'un script local à un service déployé avec les mêmes fonctions Python et la même définition d'environnement.

Quels sont les avantages de Modal ?

Ces avantages comptent surtout pour des équipes de machine learning qui veulent réduire le travail d'infrastructure.

  • L'infrastructure se décrit dans le code Python, sans fichiers de configuration ni cluster à administrer.
  • La facturation à la seconde évite de payer des GPU au repos, et le service redescend à zéro sans trafic.
  • Large choix de GPU, des modèles d'entrée de gamme aux générations récentes de NVIDIA.
  • Démarrages de conteneurs rapides, grâce à un runtime et à un système de fichiers conçus pour cet usage.
  • Une même plateforme couvre inférence, entraînement, traitements par lots et sandboxes d'agents.
  • Un forfait gratuit avec crédits mensuels permet de tester avant tout engagement.

Quelles sont les limites de Modal ?

La simplicité d'usage a des contreparties à mesurer avant d'engager une charge de production.

  • Le code est écrit avec le SDK de Modal, ce qui crée une dépendance à la plateforme et une migration à prévoir.
  • La plateforme est centrée sur Python, avec une prise en charge plus limitée des autres langages.
  • À fort volume stable, un GPU réservé ou auto-hébergé peut revenir moins cher qu'un tarif à la seconde.
  • La disponibilité des GPU les plus demandés dépend de la capacité de la plateforme au moment de l'appel.
  • Un démarrage à froid reste possible sur les modèles volumineux, avec un effet sur la latence.
  • Les données et les modèles sont traités sur une infrastructure tierce, ce qui impose de vérifier conformité et résidence.

Les deux services exécutent des modèles sans que l'on gère de serveurs, mais ils ne répondent pas au même besoin : écrire son propre déploiement d'un côté, appeler un catalogue de l'autre.

CritèreModalReplicate
NatureInfrastructure serverless pour du code PythonPlateforme d'exécution de modèles par API
OrigineFondée en 2021 à New YorkFondée en 2019 à San Francisco
Point d'entréeFonctions Python déployées avec le SDKCatalogue de modèles appelés par API
Charges couvertesInférence, entraînement, lots, sandboxesSurtout inférence et fine-tuning de modèles publiés
FacturationÀ la seconde, par ressourceÀ l'usage, au temps GPU ou à la sortie
Outil de publicationSDK Python et définition d'environnementCog, outil open source d'empaquetage
ActionnariatIndépendante, financée par capital-risqueRachat par Cloudflare annoncé en novembre 2025

Lequel choisir ? Modal convient pour déployer son propre code, entraîner, traiter des lots ou isoler des agents avec un contrôle fin du matériel. Replicate convient pour essayer vite un modèle existant par une simple API. Pour des LLM à fort trafic, comparez aussi Together AI et un auto-hébergement avec vLLM.

Quelles sont les alternatives à Modal ?

Plusieurs services exécutent des modèles sans infrastructure à gérer, avec des accents différents.

Dans quels cas choisir Modal ?

Modal convient quand la souplesse du calcul GPU compte plus que le contrôle fin de l'infrastructure.

Pertinent si

Modal est une option à évaluer

  • Votre équipe écrit en Python et veut déployer sans gérer de cluster.
  • Votre charge est irrégulière et une facturation à la seconde vous convient.
  • Vous avez besoin d'un environnement isolé pour le code produit par des agents.
  • Vous voulez tester plusieurs GPU avant de choisir une configuration.
Moins adapté si

Une autre solution peut convenir mieux

  • Votre volume est élevé et constant, et des GPU réservés reviennent moins cher.
  • Vous voulez seulement appeler un modèle du catalogue par une API simple.
  • Vos contraintes imposent un hébergement dans votre propre infrastructure.
  • Votre code n'est pas en Python ou doit rester indépendant d'un SDK.

Technologies souvent utilisées avec Modal

Modal s'intègre aux frameworks de modèles et aux outils de serving que l'on déploie sur ses GPU.

Les concepts à connaître pour comprendre Modal

Ces notions éclairent ce que Modal prend en charge et ce qu'elle laisse à l'utilisateur.

Ressources pour approfondir Modal et le déploiement de modèles

Trois articles pour comprendre les coûts, l'adaptation de modèles et la mise en production d'agents.

Questions fréquentes

Questions fréquentes

Non, c'est une société américaine dont le siège est à New York. Elle a été fondée en 2021 par Erik Bernhardsson, qui en est le directeur général, et Akshat Bubna. Elle est financée par des fonds de capital-risque américains, dont Redpoint, General Catalyst et Accel.

Expertise

À propos de l'auteur

Équipe Blent

Les ingénieurs et mentors Blent conçoivent, évaluent et mettent en production des modèles de machine learning, et forment chaque année des centaines de professionnels au MLOps.

Sources et méthodologie

  • Site officiel, documentation et page de tarifs de Modal
  • SiliconANGLE, annonce de la série C de Modal, 21 mai 2026
  • SiliconANGLE, annonce de la série D de Modal, octobre 2026
  • Sacra, fiche Modal Labs : fondateurs, produits et financements
  • Retours d'expérience des projets et formations Blent