Together AI : inférence, fine-tuning, GPU et usages en entreprise

Together AI est une entreprise de cloud spécialisée dans l'IA générative ouverte. Elle ne cherche pas à concurrencer OpenAI ou Anthropic sur la création de modèles de pointe fermés : elle héberge des modèles ouverts publiés par d'autres, les rend accessibles par API, les adapte aux données des clients et loue la puissance de calcul GPU nécessaire. Pour une équipe, cela revient à utiliser un LLM ouvert sans acheter ni administrer de GPU.

L'entreprise est fondée en 2022 à San Francisco par Vipul Ved Prakash, qui en est le directeur général, avec Ce Zhang, Percy Liang et Chris Ré, trois figures de la recherche en informatique. Son identité mêle donc cloud et recherche : ses équipes publient des travaux sur l'efficacité de l'entraînement et de l'inférence, dont le dataset RedPajama en 2023, et comptent parmi elles Tri Dao, auteur de FlashAttention, une technique d'attention désormais très répandue. Elle a levé 800 millions de dollars en juillet 2026 pour une valorisation de 8,3 milliards de dollars, un tour mené par Aramco Ventures auquel NVIDIA figure parmi les investisseurs, d'après la presse spécialisée.

Dans l'écosystème, Together AI occupe la couche intermédiaire entre les laboratoires qui publient des poids ouverts, comme Meta AI, DeepSeek, Qwen ou Mistral AI, et les entreprises qui veulent les utiliser en production. Ses concurrents directs sont les autres fournisseurs d'inférence de modèles ouverts, ainsi que les services des grands clouds.

Son modèle économique repose sur la facturation à l'usage de l'inférence, sur la location de capacité GPU et sur des contrats d'entreprise. Pour un apprenant qui déploie un LLM ouvert, c'est le cas le plus concret : on choisit un modèle, on appelle l'API avec un client habituel, puis on décide plus tard s'il faut fine-tuner, dédier une capacité ou internaliser. Cette progression limite l'investissement initial, mais elle ne dispense pas d'évaluer la qualité des réponses sur ses propres données.

À retenir : Together AI n'est pas un laboratoire de modèles mais un fournisseur de cloud pour modèles ouverts. La question utile est de savoir si le modèle ouvert couvre le besoin et si l'on veut déléguer l'infrastructure.

L'offre se lit comme un parcours : tester un modèle par API, l'adapter à ses données, puis le servir à l'échelle sur une capacité dédiée.

Ce découpage compte pour le budget. L'inférence serverless se facture au token et suit l'usage, ce qui convient au démarrage. Quand le trafic devient régulier, une capacité dédiée offre des performances prévisibles. Le choix entre les deux relève d'un arbitrage de coût, détaillé dans l'article FinOps des LLM : API vs self-hosting.

Comment choisir entre API serverless et capacité dédiée ?

Commencer en serverless pour comparer les modèles, mesurer la qualité sur ses propres données et estimer les volumes. Passer à une capacité dédiée quand la latence, l'isolation ou le coût unitaire à fort volume l'exigent. Si la charge est très stable et que l'équipe sait exploiter des GPU, servir soi-même le modèle avec vLLM reste une option à chiffrer.

La plateforme s'appuie sur des modèles ouverts, mais il faut distinguer plusieurs niveaux, comme pour toute plateforme d'IA ouverte.

• Les modèles servis sont publiés par leurs auteurs avec leurs propres licences. Certains sont sous Apache 2.0 ou MIT, d'autres sous des licences communautaires avec restrictions d'usage. Héberger un modèle chez Together AI ne le rend pas open source.
• La plateforme est un service commercial et propriétaire. Son moteur d'inférence et son infrastructure ne sont pas publiés dans leur ensemble.
• La recherche est en grande partie ouverte : articles, jeux de données comme RedPajama et optimisations d'entraînement et d'inférence partagées avec la communauté.
• Les poids adaptés par fine-tuning appartiennent au client, sous réserve de la licence du modèle de départ.

Ce positionnement présente un avantage de portabilité : puisque les modèles sont ouverts, une application peut migrer vers un autre fournisseur ou vers un hébergement interne, à condition de reprendre le même modèle. C'est un argument face aux API fermées, où le modèle reste lié à son éditeur.

La compatibilité avec le format d'API d'OpenAI renforce cette portabilité. Le code applicatif, les bibliothèques d'orchestration et les outils de suivi restent les mêmes : seuls la clé, l'URL de base et le nom du modèle changent. Il faut néanmoins tester chaque migration, car le comportement d'un modèle ouvert, sa gestion des appels d'outils ou du format de sortie structuré peuvent différer de ceux du modèle remplacé. Un jeu d'évaluation propre au projet reste le meilleur moyen de trancher.

À retenir : l'ouverture concerne les modèles et une partie de la recherche, pas la plateforme. Avant tout usage commercial, lisez la licence de chaque modèle choisi.

La comparaison est fréquente, car les deux donnent accès à des modèles ouverts et proposent un déploiement managé, avec Inference Endpoints du côté de Hugging Face.

Lequel choisir ? Together AI convient quand on veut appeler rapidement plusieurs modèles ouverts par une API standard, puis passer à de l'inférence dédiée ou à du fine-tuning sur la même plateforme. Hugging Face s'impose pour explorer, télécharger, documenter et versionner des modèles, ou pour déployer un modèle précis du Hub. Les deux se combinent : on repère un modèle sur le Hub, on le teste par API, puis on décide où le servir. Pour exécuter un modèle sur un poste, Ollama reste l'option la plus légère.