Compétence · IA appliquée · Comprendre, servir et intégrer des modèles de langage
Exécuter et servir un LLM open source, du poste au GPU
Faire tourner un LLM open source sur son poste avec Ollama, le servir en API avec llama.cpp ou Transformers, et le quantifier pour qu'il tienne en mémoire.
Commencer la leçon 1Le domaine IA appliquée
- 7 leçons
- ~5 h 45 de lecture
- 7 quiz
- 0 lab de preuve
Le chemin
D'où elle vient, où elle mène
Ce qu'il faut savoir avant, où vous en êtes sur cette compétence, et ce qu'elle ouvre ensuite. Votre état se calcule dans votre navigateur, à partir de ce que vous avez lu et réussi.
Avant · 2 prérequis
Conseillé avant · 1
Cette compétence, pour vous
Exécuter et servir un LLM open source, du poste au GPU
Calcul en cours
Elle débloque · rien encore
Aucune autre compétence ne la demande : c'est une compétence de bout de chemin.
Le chemin des bases De la base la plus en amont jusqu'à cette compétence : ce qui est en place, ce qu'il reste à lire.
Leçons
Comment l'apprendre
7 leçons, soit ~5 h 45, dans l'ordre du programme. Chaque leçon se termine par son quiz.
Le programme
7 leçons · ~5 h 45
- 1Quantifier un LLM en pratique· 50 min
- 2Ollama : installation et premiers pas· 65 min
- 3Ollama : dépannage et configuration· 35 min
- 4llama.cpp : serveur d'inférence· 40 min
- 5Hugging Face Transformers· 65 min
- 6vLLM : haute performance· 45 min
- 7SGLang : RadixAttention· 45 min
Au-delà des leçons
S'évaluer, pratiquer, passer l'épreuve
Lire une leçon ne confirme rien. Une compétence se confirme par un quiz réussi, se travaille en lab guidé, et se met à l’épreuve par un challenge ou une mission ; un résultat de lab importé n’est pas vérifié par le site.
S'évaluer
7 quiz
En fin de leçon : réussis à 70 %, ils confirment la compétence.
Pratiquer
Aucun lab guidé
Aucun lab guidé ne la fait encore pratiquer.
Épreuve
Aucune épreuve
Ni challenge, ni mission avec une preuve pour l'instant.
Test de positionnement
Préparation des questions…
Le détail de vos réponses
Pour chaque question posée : votre réponse, la bonne réponse, son explication et la page à relire.
Autour
Qui la demande, qui l'enseigne
Demandée par
Enseignée par
Même bloc · Comprendre, servir et intégrer des modèles de langage
- Expliquer le fonctionnement, l'inférence et la quantification d'un LLM
- Écrire des prompts fiables : rôles, few-shot, Chain-of-Thought et ReAct
- Appeler un LLM depuis Python : complétion, streaming, conversation, sorties structurées et images
- Exploiter une passerelle LLM : routage, repli, cache, clés et budgets