Modal : GPU serverless, inférence, sandboxes et usages en entreprise
La plateforme cloud américaine qui exécute du code Python sur des GPU à la demande : fondateurs, facturation à la seconde, inférence, sandboxes d'agents, levées de fonds 2026 et différences avec Replicate.
Par Équipe Blent· Mis à jour le · 16 min de lecture· Niveau débutant
Modal en bref
- Type
- Plateforme cloud serverless pour l'IA
- Fondation
- 2021, à New York
- Fondateurs
- Erik Bernhardsson, Akshat Bubna
- Siège
- New York, États-Unis
En bref : Modal
Modal est une plateforme cloud américaine d'infrastructure serverless pour l'IA, fondée en 2021 à New York par Erik Bernhardsson et Akshat Bubna. Elle exécute du code Python sur des CPU et des GPU à la demande : le développeur décrit son environnement et ses fonctions dans son code, et la plateforme les lance, les met à l'échelle et les arrête, avec une facturation à la seconde. Elle sert à l'inférence de modèles, au fine-tuning, aux traitements par lots et aux sandboxes qui isolent le code généré par des agents. Modal a levé des montants importants en 2026, avec une valorisation annoncée de 4,65 milliards de dollars en mai puis de 15,75 milliards en octobre.
En une phrase : Modal est une plateforme cloud serverless qui exécute du code Python sur des GPU à la demande, facturés à la seconde, pour l'inférence, l'entraînement et les agents.
Dans cette fiche
Qu'est-ce que Modal ?
Modal est une plateforme cloud qui permet d'exécuter du code Python sur des CPU et des GPU à la demande, sans acheter de machines ni administrer de cluster. Elle se place entre les fournisseurs de matériel et les équipes de machine learning : on décrit dans son code l'environnement et le matériel voulus, on déploie, et la plateforme lance les conteneurs au moment où des requêtes arrivent, puis les arrête.
La société est fondée en 2021 à New York par Erik Bernhardsson et Akshat Bubna. Erik Bernhardsson, son directeur général, est connu pour avoir travaillé sur la recommandation musicale chez Spotify. Modal a construit son propre runtime de conteneurs et son système de fichiers distribué pour obtenir des démarrages rapides. Après un tour d'amorçage en 2022 et une série A en 2023, la plateforme a accéléré avec l'essor de l'IA générative : série B en septembre 2025, série C de 355 millions de dollars en mai 2026 à 4,65 milliards de valorisation, puis série D de 750 millions en octobre 2026 à 15,75 milliards, selon la presse spécialisée.
Dans l'écosystème, Modal se compare à Replicate, à Together AI ou à Fireworks AI, et à des clouds de GPU comme CoreWeave. Elle illustre le déploiement de modèles d'IA générative en mode serverless.
À retenir : Modal ne publie pas de modèles de pointe. La question utile est de savoir si l'on veut décrire son propre code sur du calcul élastique, ou appeler un modèle déjà prêt.
Quels produits propose Modal ?
L'offre se décrit par type de charge de travail plutôt que par produit isolé, car elle repose sur la même plateforme d'exécution.
| Offre | Type | Usage principal | Accès |
|---|---|---|---|
| Inference | Fonctions et points d'accès déployés | Servir des modèles de langage, d'image, de vidéo ou d'audio | SDK Python, facturation à la seconde |
| Sandboxes | Environnements isolés à la demande | Exécuter le code d'agents ou d'utilisateurs | SDK Python, tarif majoré pour des ressources non préemptibles |
| Training | Entraînement et évaluation sur GPU | Fine-tuning, apprentissage par renforcement | SDK Python, GPU à la seconde |
| Batch | Traitements parallèles | Transcription, embeddings, évaluations en masse | SDK Python, facturation à la seconde |
| Model APIs | Modèles ouverts hébergés | Appeler un modèle sans déploiement | API, facturation au token |
| Volumes | Stockage distribué | Poids de modèles et jeux de données | Facturation au volume stocké |
Modal propose une gamme de GPU NVIDIA, des modèles d'entrée de gamme comme le T4 ou le L4 jusqu'aux générations récentes comme le H100, le H200 ou le B200. Le choix se fait par une ligne dans le code, ce qui permet de comparer le coût et la vitesse de plusieurs configurations.
Comment fonctionne la facturation ?
Modal facture à la seconde les ressources consommées : GPU, cœurs de CPU et mémoire. Un conteneur reste actif un court délai après la dernière requête, puis la facturation s'arrête quand l'application redescend à zéro. Les forfaits incluent des crédits mensuels, et des crédits supplémentaires existent pour les startups et la recherche. Estimez le coût par requête à votre volume réel, et comparez-le à celui de GPU réservés, comme le détaille l'article sur le FinOps des LLM.
Comment déployer une fonction sur Modal ?
Le parcours tient en quelques étapes : décrire l'image du conteneur et les dépendances en Python, annoter la fonction avec le type de GPU, la mémoire et le délai d'inactivité voulus, tester en local avec la commande de la plateforme, puis déployer pour obtenir un point d'accès. Les poids de modèle se placent dans un volume afin de ne pas les retélécharger à chaque démarrage. Ce fonctionnement rapproche l'infrastructure du code, selon le principe de l'Infrastructure as Code, mais il suppose d'accepter le SDK comme couche de déploiement.
Comment choisir une offre ?
Partez de la charge : un service en ligne relève d'Inference, un entraînement ponctuel de Training, un traitement de masse de Batch, et l'exécution de code d'agents de Sandboxes. Si vous voulez seulement appeler un modèle ouvert, les Model APIs évitent d'écrire un déploiement.
Quels produits propose Modal ?
Modal repose sur une même plateforme d'exécution, déclinée en offres selon le type de charge de travail.
- Production
Inference
Déploiement de modèles de langage, d'image, de vidéo ou d'audio derrière un point d'accès, avec mise à l'échelle automatique.
- Développeurs
Sandboxes
Environnements isolés pour exécuter du code non fiable ou généré par des agents, lancés à la demande.
- Développeurs
Training
Fine-tuning, apprentissage par renforcement et évaluation sur GPU, y compris sur plusieurs machines.
- Production
Batch
Traitements parallèles de grands volumes de données, avec des centaines de conteneurs lancés en quelques secondes.
- Utilisateurs et équipes
Model APIs
Modèles ouverts hébergés par Modal et facturés au token, pour appeler un modèle sans écrire de déploiement.
- Infrastructure
Volumes et stockage
Systèmes de fichiers distribués pour partager poids de modèles et jeux de données entre conteneurs.
Modal est-elle open source ?
La réponse varie selon la couche concernée.
- La plateforme est propriétaire : l'infrastructure qui orchestre les conteneurs et les GPU est un service commercial géré par Modal.
- Le SDK Python est publié : il permet d'écrire et de déployer ses fonctions, mais il ne fonctionne qu'avec la plateforme.
- Les modèles ont chacun leur licence : les poids que vous déployez, souvent issus de Hugging Face, restent soumis à leur licence d'origine.
Cette architecture limite l'enfermement à la couche de déploiement. Le code d'un modèle reste du Python standard, empaquetable dans un conteneur et redéployable avec Kubernetes, mais les décorateurs et les volumes propres à Modal sont à réécrire.
À retenir : Modal réduit le travail d'infrastructure, mais la définition des fonctions et des environnements lie le code à un SDK tiers.
Quels sont les avantages de Modal ?
Ces avantages comptent surtout pour des équipes de machine learning qui veulent réduire le travail d'infrastructure.
- L'infrastructure se décrit dans le code Python, sans fichiers de configuration ni cluster à administrer.
- La facturation à la seconde évite de payer des GPU au repos, et le service redescend à zéro sans trafic.
- Large choix de GPU, des modèles d'entrée de gamme aux générations récentes de NVIDIA.
- Démarrages de conteneurs rapides, grâce à un runtime et à un système de fichiers conçus pour cet usage.
- Une même plateforme couvre inférence, entraînement, traitements par lots et sandboxes d'agents.
- Un forfait gratuit avec crédits mensuels permet de tester avant tout engagement.
Quelles sont les limites de Modal ?
La simplicité d'usage a des contreparties à mesurer avant d'engager une charge de production.
- Le code est écrit avec le SDK de Modal, ce qui crée une dépendance à la plateforme et une migration à prévoir.
- La plateforme est centrée sur Python, avec une prise en charge plus limitée des autres langages.
- À fort volume stable, un GPU réservé ou auto-hébergé peut revenir moins cher qu'un tarif à la seconde.
- La disponibilité des GPU les plus demandés dépend de la capacité de la plateforme au moment de l'appel.
- Un démarrage à froid reste possible sur les modèles volumineux, avec un effet sur la latence.
- Les données et les modèles sont traités sur une infrastructure tierce, ce qui impose de vérifier conformité et résidence.
Modal vs Replicate : quelles différences ?
Les deux services exécutent des modèles sans que l'on gère de serveurs, mais ils ne répondent pas au même besoin : écrire son propre déploiement d'un côté, appeler un catalogue de l'autre.
| Critère | Modal | Replicate |
|---|---|---|
| Nature | Infrastructure serverless pour du code Python | Plateforme d'exécution de modèles par API |
| Origine | Fondée en 2021 à New York | Fondée en 2019 à San Francisco |
| Point d'entrée | Fonctions Python déployées avec le SDK | Catalogue de modèles appelés par API |
| Charges couvertes | Inférence, entraînement, lots, sandboxes | Surtout inférence et fine-tuning de modèles publiés |
| Facturation | À la seconde, par ressource | À l'usage, au temps GPU ou à la sortie |
| Outil de publication | SDK Python et définition d'environnement | Cog, outil open source d'empaquetage |
| Actionnariat | Indépendante, financée par capital-risque | Rachat par Cloudflare annoncé en novembre 2025 |
Lequel choisir ? Modal convient pour déployer son propre code, entraîner, traiter des lots ou isoler des agents avec un contrôle fin du matériel. Replicate convient pour essayer vite un modèle existant par une simple API. Pour des LLM à fort trafic, comparez aussi Together AI et un auto-hébergement avec vLLM.
Quelles sont les alternatives à Modal ?
Plusieurs services exécutent des modèles sans infrastructure à gérer, avec des accents différents.
Replicate
Plateforme d'exécution de modèles par API, avec un catalogue public et l'outil Cog pour publier les siens.
À considérer pour : catalogue de modèles prêts à l'appel et mise en route sans écrire de déploiement
Together AI
Plateforme d'inférence et de fine-tuning de modèles ouverts, centrée sur les modèles de langage.
À considérer pour : LLM ouverts par API et fine-tuning managé
Fireworks AI
Plateforme d'inférence rapide de modèles ouverts, orientée production et faible latence.
À considérer pour : latence maîtrisée et trafic soutenu sur des LLM
CoreWeave
Fournisseur de cloud spécialisé dans les GPU, avec des clusters dédiés et un accès proche du matériel.
À considérer pour : capacité GPU réservée, clusters d'entraînement et contrôle de l'infrastructure
Dans quels cas choisir Modal ?
Modal convient quand la souplesse du calcul GPU compte plus que le contrôle fin de l'infrastructure.
Modal est une option à évaluer
- Votre équipe écrit en Python et veut déployer sans gérer de cluster.
- Votre charge est irrégulière et une facturation à la seconde vous convient.
- Vous avez besoin d'un environnement isolé pour le code produit par des agents.
- Vous voulez tester plusieurs GPU avant de choisir une configuration.
Une autre solution peut convenir mieux
- Votre volume est élevé et constant, et des GPU réservés reviennent moins cher.
- Vous voulez seulement appeler un modèle du catalogue par une API simple.
- Vos contraintes imposent un hébergement dans votre propre infrastructure.
- Votre code n'est pas en Python ou doit rester indépendant d'un SDK.
Technologies souvent utilisées avec Modal
Modal s'intègre aux frameworks de modèles et aux outils de serving que l'on déploie sur ses GPU.
- Serving
vLLM
Serveur d'inférence de LLM fréquemment déployé sur les GPU de Modal pour un débit élevé.
- Framework
PyTorch
Framework de deep learning dans lequel s'écrivent la plupart des fonctions d'entraînement et d'inférence.
- Distribution
Hugging Face
Source courante des poids de modèles chargés dans les conteneurs, souvent stockés dans un volume.
- Conteneurisation
Docker
Format d'image dont on peut partir pour définir l'environnement d'une fonction.
- Orchestration
LangChain
Bibliothèque d'orchestration dont les appels de modèles peuvent être servis par un déploiement Modal.
- Suivi d'expériences
MLflow
Outil de suivi des expériences et des modèles, utilisable depuis un entraînement lancé sur Modal.
- Infrastructure
Kubernetes
Orchestrateur que l'on utilise à la place de Modal lorsque l'on choisit de gérer son propre cluster.
- Serving
Ollama
Outil d'exécution locale de modèles, utile pour prototyper avant un déploiement sur GPU.
Les concepts à connaître pour comprendre Modal
Ces notions éclairent ce que Modal prend en charge et ce qu'elle laisse à l'utilisateur.
- ContainerL'unité d'exécution qui isole une fonction et ses dépendances, lancée et arrêtée par la plateforme.
- DockerLe format d'image à partir duquel on peut décrire l'environnement d'une fonction.
- LLMLes grands modèles de langage, charge la plus fréquente de l'inférence sur GPU.
- Fine-tuningL'adaptation d'un modèle à ses propres exemples, exécutée sur des GPU loués à la demande.
- Infrastructure as CodeLe principe de décrire l'infrastructure dans le code, que Modal applique en Python.
- KubernetesL'alternative autogérée pour orchestrer des conteneurs et des GPU.
Ressources pour approfondir Modal et le déploiement de modèles
Trois articles pour comprendre les coûts, l'adaptation de modèles et la mise en production d'agents.
- Comparatif
FinOps des LLM : API vs self-hosting
Comparer le coût d'un service managé et celui d'un modèle hébergé en propre.
Lire l'article - Guide
Fine-tuning de LLM : tout savoir
Adapter un modèle à ses données, une charge typique des GPU à la demande.
Lire l'article - Guide
Agent IA en production : architecture et bonnes pratiques
Les contraintes de déploiement des agents, dont l'isolation du code exécuté.
Lire l'article
Questions fréquentes
Questions fréquentes
Expertise
À propos de l'auteur
Équipe Blent
Les ingénieurs et mentors Blent conçoivent, évaluent et mettent en production des modèles de machine learning, et forment chaque année des centaines de professionnels au MLOps.
Sources et méthodologie
- Site officiel, documentation et page de tarifs de Modal
- SiliconANGLE, annonce de la série C de Modal, 21 mai 2026
- SiliconANGLE, annonce de la série D de Modal, octobre 2026
- Sacra, fiche Modal Labs : fondateurs, produits et financements
- Retours d'expérience des projets et formations Blent
Comment utiliser Modal en entreprise ?
Modal convient aux équipes qui veulent du calcul GPU élastique décrit en Python, sans administrer de cluster.
Servir un modèle en production
Exposer un LLM ou un modèle d'image par API, avec des GPU lancés selon le trafic et arrêtés au repos.
Fine-tuner un modèle
Lancer un entraînement sur des GPU loués quelques heures, sans réserver de machines à l'avance.
Traiter des données par lots
Paralléliser une transcription, un calcul d'embeddings ou une évaluation sur de très nombreux conteneurs.
Isoler le code d'un agent
Faire exécuter par un sandbox le code produit par un agent IA, sans risque pour le reste du système.
Absorber des pics de charge
Payer le calcul à la seconde lorsque la demande est irrégulière, plutôt que des GPU immobilisés.
Prototyper puis industrialiser
Passer d'un script local à un service déployé avec les mêmes fonctions Python et la même définition d'environnement.