LlamaIndex : définition, composants et exemple de RAG

LlamaIndex est un framework dont la promesse tient en une phrase : rendre vos données exploitables par un LLM. Là où un modèle de langage ne connaît que ses données d'entraînement, LlamaIndex fournit toute la chaîne qui permet de lui apporter, à chaque question, les bons extraits de vos documents.

Le projet est né en novembre 2022, quelques semaines avant la sortie de ChatGPT. Jerry Liu, alors ingénieur en apprentissage automatique, publie sur GitHub un petit utilitaire d'indexation baptisé GPT Index, destiné à contourner la taille limitée du contexte de GPT-3. Le projet est renommé LlamaIndex début 2023, puis devient une entreprise, LlamaIndex Inc., cofondée avec Simon Suo. La bibliothèque reste open source sous licence MIT ; l'entreprise commercialise à côté des services managés de parsing et d'ingestion.

LlamaIndex se positionne comme un framework de données : son vocabulaire (documents, nœuds, index, retrievers) décrit le parcours de l'information plutôt que celui des appels au modèle. C'est ce qui le distingue de LangChain, plus généraliste. Les deux couvrent le RAG, mais LlamaIndex pousse plus loin les options d'ingestion, de découpage et de recherche.

À retenir : LlamaIndex ne remplace ni le LLM ni la base vectorielle. Il orchestre le chemin qui mène de vos documents bruts à une réponse sourcée.

Le code suivant indexe un dossier de documents internes, puis répond à une question en citant les fichiers utilisés. Il suppose l'installation des paquets llama-index (qui inclut les intégrations OpenAI) et une clé d'API dans la variable OPENAI_API_KEY.

from llama_index.core import Settings, SimpleDirectoryReader, VectorStoreIndex
from llama_index.core.node_parser import SentenceSplitter
from llama_index.embeddings.openai import OpenAIEmbedding
from llama_index.llms.openai import OpenAI

# Modèles de génération et d'embedding, réglés une fois pour toute l'application
Settings.llm = OpenAI(model="gpt-4.1-mini", temperature=0)
Settings.embed_model = OpenAIEmbedding(model="text-embedding-3-small")

# 1. Chargement : PDF, DOCX, Markdown... avec métadonnées (nom de fichier, dates)
documents = SimpleDirectoryReader("./docs_rh", recursive=True).load_data()

# 2 et 3. Découpage en nœuds puis indexation vectorielle
index = VectorStoreIndex.from_documents(
    documents,
    transformations=[SentenceSplitter(chunk_size=512, chunk_overlap=64)],
)
index.storage_context.persist(persist_dir="./storage")

# 4. Interrogation : retriever (4 nœuds) + synthèse de la réponse
query_engine = index.as_query_engine(similarity_top_k=4)
response = query_engine.query("Combien de jours de télétravail sont autorisés par semaine ?")

print(response)
for node in response.source_nodes:
    print(node.metadata["file_name"], round(node.score, 3))

Chaque ligne correspond à une étape du pipeline. SimpleDirectoryReader choisit le lecteur adapté à chaque extension de fichier. SentenceSplitter découpe les textes en nœuds d'environ 512 tokens en respectant les fins de phrases. VectorStoreIndex calcule les embeddings et les stocke, ici en mémoire puis sur disque. Enfin, as_query_engine assemble un retriever et un synthétiseur : la réponse est accompagnée des nœuds sources et de leur score de similarité, ce qui permet d'afficher les documents consultés.

Pour transformer cet exemple en assistant conversationnel, il suffit de remplacer la dernière partie par index.as_chat_engine(chat_mode="condense_plus_context") : les questions de suivi sont alors reformulées à partir de l'historique avant la recherche. Pour passer en production, l'index en mémoire est remplacé par une base vectorielle comme Pinecone ou Weaviate, sans changer la logique applicative. Notre tutoriel LlamaIndex : créer son RAG en quelques lignes de code détaille chaque composant.

Le query engine couvre le cas le plus courant. Pour aller plus loin, LlamaIndex propose plusieurs couches complémentaires.

Index et retrievers spécialisés

Le VectorStoreIndex n'est pas le seul type d'index. Un SummaryIndex parcourt tous les nœuds pour produire une synthèse globale, utile pour résumer un document entier. Un index de graphe de propriétés relie entités et relations extraites du corpus. Côté recherche, LlamaIndex fournit des retrievers hybrides (vecteurs et BM25), des routeurs qui choisissent l'index adapté à la question, et des postprocesseurs de reranking pour réordonner les nœuds avant la génération.

Workflows et agents

Les workflows décrivent une application comme une suite d'étapes déclenchées par des événements. Chaque étape est une fonction asynchrone décorée par @step, qui reçoit un événement et en émet un autre. Ce modèle permet d'exprimer des boucles (relancer une recherche si les nœuds sont peu pertinents), des branches parallèles et des points d'attente humaine. Les agents de LlamaIndex reposent sur cette couche : un agent reçoit des outils (un query engine, une fonction Python, une API) et décide lesquels appeler. La logique est proche de celle de LangGraph, avec une modélisation par événements plutôt que par graphe d'état.

LlamaParse et LlamaCloud

L'offre commerciale de l'éditeur cible le maillon souvent le plus faible d'un RAG : la lecture des documents. LlamaParse convertit des PDF, présentations ou tableurs complexes en Markdown structuré, en préservant tableaux et hiérarchie des titres. LlamaCloud étend ce service à l'ingestion managée : synchronisation des sources, découpage, indexation et extraction structurée, accessibles par API. Ces services restent optionnels : la bibliothèque open source fonctionne entièrement sans eux.

La fiche LangChain présente le positionnement général des deux frameworks. Le tableau ci-dessous se concentre sur ce qui change concrètement pour un développeur qui construit un pipeline documentaire.

En pratique, LlamaIndex fait gagner du temps quand la difficulté se situe dans les données : sources nombreuses, documents mal structurés, stratégies d'indexation à comparer. LangChain et LangGraph prennent l'avantage quand la difficulté se situe dans la logique de l'agent. Les deux se combinent sans difficulté, un index LlamaIndex pouvant servir d'outil à un agent construit avec l'autre écosystème.