L’issue s’ouvre déjà remplie avec le titre et l’adresse de cette page.
Vous voulez créer un assistant qui répond aux questions sur votre documentation interne, exécute des commandes sur vos serveurs et génère des rapports. Par où commencer ? Quelles briques utiliser ? Ce guide vous donne en 15 minutes une vue d'ensemble structurée de l'écosystème IA générative.
À la fin, vous saurez :
Nommer chaque composant (LLM, RAG, agent, MCP)
Comprendre ce que chacun fait et quand l'utiliser
Positionner les outils (Ollama, LiteLLM, LangGraph) dans une architecture
Avant d'entrer dans le détail de chaque brique, ce tableau donne la correspondance directe entre un besoin et la technique adaptée. Lisez-le comme un aiguillage : identifiez d'abord ce que vous voulez faire, la colonne de droite vous renvoie vers la section qui l'explique. Les quatre lignes ne sont pas exclusives, un assistant complet combine souvent RAG, tool calling et une boucle d'agent.
Vous voulez...
Utilisez...
Répondre sur vos docs internes
RAG (recherche + injection de contexte)
Déclencher une action externe (API, DB, shell)
Tool calling
Enchaîner plusieurs étapes / boucler jusqu'au résultat
Agent (LangGraph, CrewAI...)
Réutiliser vos outils dans Claude Desktop, VS Code, etc.
Un LLM (Large Language Model) est un programme qui prédit le token suivant dans une séquence. Un token n'est pas forcément un mot : c'est un morceau de texte (mot, partie de mot, ponctuation). À partir du texte déjà présent, le modèle calcule pour chaque token possible une probabilité d'être le suivant, choisit l'un d'eux, l'ajoute à la séquence, puis recommence. En répétant cette prédiction des milliers de fois, il produit des paragraphes entiers.
Concrètement, un LLM peut :
Générer du texte : articles, emails, code, scripts
Répondre à des questions : en synthétisant ce qu'il a "appris"
Résumer des documents : en extrayant l'essentiel
Traduire : en transposant les patterns d'une langue à l'autre
Reformuler : en changeant le style ou le niveau de complexité
Le LLM a été entraîné sur des milliards de textes (livres, sites web, code source, conversations). Pendant cet entraînement, il a "appris" les patterns statistiques du langage : quels mots suivent quels autres, dans quel contexte.
Le LLM choisit le token suivant selon des probabilités, puis répète le processus jusqu'à générer une réponse complète. Cette génération token par token explique pourquoi on parle de "coût par token" et de "context window" (fenêtre de contexte).
Vous avez un LLM, mais il ne connaît pas vos documents internes. Comment lui faire répondre à "Quelle est notre politique de congés ?" ou "Comment déployer sur notre infrastructure ?" C'est là qu'intervient RAG (Retrieval-Augmented Génération).
RAG tient en une idée : au lieu de demander au LLM ce qu'il « sait », on lui fournit les bons passages de vos documents au moment de la question, et on lui demande de répondre à partir de ce texte. Les quatre étapes ci-dessous se lisent dans l'ordre, mais deux se déroulent à des moments différents : l'indexation se fait une fois à l'avance, tandis que chercher, injecter et générer s'enchaînent à chaque question posée.
Indexer : transformer vos documents en vecteurs numériques (détaillé plus bas)
Chercher : quand une question arrive, trouver les passages pertinents
Injecter : ajouter ces passages dans le prompt du LLM
Générer : le LLM répond en se basant sur ce contexte
Voici le détail des six opérations qui transforment un tas de documents en réponses sourcées. Les quatre premières (extraction, chunking, embeddings, indexation) constituent la phase de préparation, exécutée une seule fois. Les deux dernières (retrieval, génération) forment la phase d'exécution, rejouée à chaque question. Repérez l'étape de chunking : la taille des morceaux qu'on y choisit conditionne à elle seule la pertinence de tout le reste.
Extraction : Récupérer le contenu brut de vos sources (HTML, PDF, Markdown). C'est le "web scraping" ou "parsing" de vos documents.
Chunking : Découper en morceaux de 500-1000 tokens. Pourquoi ? Parce que le LLM a une fenêtre de contexte limitée, et parce qu'un passage court est plus pertinent qu'un document entier.
Embeddings : Convertir chaque chunk en vecteur numérique (une liste de nombres). Chaque vecteur situe le chunk dans un espace à plusieurs centaines de dimensions où deux textes de sens proche obtiennent des coordonnées proches, ce qui rend leur similarité mesurable par un simple calcul de distance.
Indexation : Stocker ces vecteurs dans une base vectorielle (ChromaDB, FAISS). C'est une base de données optimisée pour chercher "le vecteur le plus proche".
Retrieval : Quand une question arrive, la convertir aussi en vecteur, puis chercher les chunks les plus proches. C'est la "recherche sémantique".
Génération : Injecter les chunks trouvés dans le prompt du LLM. Il répond en se basant sur ce contexte, pas sur sa mémoire.
Un RAG "démo" fonctionne vite. Un RAG production-ready nécessite 3 éléments supplémentaires :
Métadonnées & filtres : chaque chunk porte des infos (source, date, produit, ACL). Sinon impossible de filtrer par équipe, restreindre par droits, ou dater les réponses.
Hybrid retrieval + reranking : combiner recherche dense (embeddings) et lexicale (BM25), puis re-classer les résultats avec un modèle de reranking. Gain de pertinence significatif.
Citations / traçabilité : renvoyer à l'utilisateur les extraits utilisés avec leurs liens ou IDs. Sans ça, impossible de vérifier ni d'auditer.
Jusqu'ici, le LLM ne fait que parler. Mais si vous voulez qu'il agisse, réserver un vol, déployer un service, envoyer un email, il lui faut des outils et une boucle de décision. C'est ce qu'on appelle un agent.
Concrètement, un agent peut :
Appeler des API : météo, Slack, GitHub, votre backend
Vous vous demandez peut-être : "Comment le LLM sait-il appeler une API ?" La réponse : il ne le fait pas vraiment. Le LLM génère du texte structuré (JSON) qui décrit quelle fonction appeler et avec quels paramètres. C'est votre code qui exécute réellement l'action.
C'est le tool calling (ou function calling) : une convention où le LLM "demande" d'appeler une fonction, et votre code l'exécute.
Vous avez créé un outil "get_weather" pour votre agent LangGraph. Super ! Mais maintenant vous voulez l'utiliser dans Claude Desktop, VS Code Copilot et votre chatbot Chainlit. Vous allez réécrire l'intégration 3 fois ? C'est exactement le problème que MCP (Model Context Protocol) résout.
Sans standard commun, chaque application (Claude Desktop, VS Code, votre chatbot) doit être connectée à chaque outil par une intégration sur mesure. Avec N applications et M outils, cela fait N×M intégrations à écrire et à maintenir. Le schéma ci-dessous illustre ce que MCP change : en s'intercalant comme protocole commun, il ramène ce coût à N+M, chaque application et chaque outil ne parlant plus qu'à un seul interlocuteur standard.
MCP répartit les rôles en trois composants qu'il faut distinguer pour lire n'importe quelle documentation du protocole. Le point souvent mal compris est la place du client : il ne s'agit pas de l'utilisateur, mais d'une bibliothèque logée dans l'application hôte, dont le seul travail est de maintenir la connexion vers les serveurs qui exposent les outils.
MCP : contexte et spécification. MCP a été annoncé le 25 novembre 2024 par Anthropic. C'est un protocole (pas un framework) qui s'appuie sur JSON Schema pour décrire les outils.
L'écosystème évolue rapidement, consultez la spécification officielle pour les dernières évolutions.
→ Approfondir : MCP : standardiser les outils (à venir)
Ce tableau est la synthèse de tout le guide : chaque besoin de l'assistant se traduit par une brique vue précédemment. Lisez-le de haut en bas comme un plan de construction. Remarquez que le tool calling revient trois fois : dès que l'assistant doit agir sur un système réel (vérifier un service, lire des logs, créer un ticket), c'est toujours lui qui est à l'oeuvre, l'agent ne faisant qu'orchestrer ces appels.
Assistant DevOps : l'utilisateur pose sa question à l'agent LangGraph, qui interroge le LLM via LiteLLM et fait vérifier ses permissions par la couche policy ; une fois autorisé, MCP donne accès aux outils check_status, get_logs, create_ticket et au service RAG, qui cherche dans les runbooks indexés par ChromaDB.UtilisateurSlack, ChainlitAgent DevOpsLangGraphPolicy, guardrailslimites, RBAC, approbationMCPstandardise les outilsLLMGPT-4 via LiteLLMOutilsChromaDBrunbooks indexésKnowledge ServiceRAG, retrievercheck_statusget_logscreate_ticketquestionvérifie les permissionsautoriséinférencerecherche
Vérifiez que l'essentiel de ce guide est acquis. Les questions portent
uniquement sur ce qui vient d'être expliqué ici.
Contrôle de connaissances
Validez vos connaissances avec ce quiz interactif
6 questions
6 min.
70% requis
Informations
Le chronomètre démarre au clic sur Démarrer
Questions à choix multiples, vrai/faux et réponses courtes
Vous pouvez naviguer entre les questions
Les résultats détaillés sont affichés à la fin
Lance le quiz et démarre le chronomètre
⏱️--:--
0 / 6
Vérification
(0/0)
--:--
0%
0Correctes
0À revoir
0:00Temps
-Niveau
Score par domaine
Un domaine regroupe plusieurs guides et reçoit plusieurs questions : son score est plus fiable qu'un score par thème, qui porte souvent sur une seule question.
Bilan
Points forts
Aucun sujet réussi à 80 % sur au moins deux questions pour l’instant.