Huit séances de 90 minutes, chacune avec un lab exécutable et mesuré. Vous partez du fonctionnement réel d'un LLM et vous arrivez à un modèle entraîné sur vos données, servi derrière une API. Bilingue français / anglais, tout en local. Eight 90-minute sessions, each with a runnable, measured lab. You start from how an LLM actually works and end with a model trained on your data, served behind an API. Bilingual French / English, all local.
Dans l'ordre. Chaque séance se termine par un gain concret à emporter.In order. Each session ends with a concrete take-away.
Tokens et tokenizer, embeddings, self-attention, les trois entraînements, hallucination, température. Pourquoi le décodage est memory-bound.Tokens and tokenizer, embeddings, self-attention, the three trainings, hallucination, temperature. Why decoding is memory-bound.
Paramètres, précision, GGUF, k-quants. La formule du cache KV (avec GQA) et le calcul de budget mémoire. Choisir un modèle sans se tromper.Parameters, precision, GGUF, k-quants. The KV cache formula (with GQA) and memory-budget math. Choosing a model without guessing.
Le prompt comme composant logiciel. Few-shot, décomposition, sortie contrainte, injection de prompt, et surtout l'évaluation chiffrée d'un prompt.The prompt as a software component. Few-shot, decomposition, constrained output, prompt injection, and above all the quantified evaluation of a prompt.
llama.cpp, Ollama, LM Studio, vLLM : qui fait quoi. L'API compatible OpenAI comme langue commune, et la vérification qu'un service tourne vraiment.llama.cpp, Ollama, LM Studio, vLLM: who does what. The OpenAI-compatible API as a lingua franca, and verifying a service is really up.
Prefill vs decode, TTFT vs tokens/s. Les dix leviers classés par effet, et une méthodologie de mesure qui ne se ment pas (échauffement, médiane).Prefill vs decode, TTFT vs tokens/s. The ten levers ranked by effect, and a measurement methodology that does not lie to you (warm-up, median).
Le pipeline complet, la contrainte de taille des fragments, la recherche hybride, et les deux étages d'évaluation (recall@k vs faithfulness).The full pipeline, the chunk-size constraint, hybrid search, and the two evaluation stages (recall@k vs faithfulness).
Ce que LoRA gèle, pourquoi QLoRA tient dans 12 Go, le dataset (80 % du résultat), le piège du gabarit de chat, les hyperparamètres qui comptent.What LoRA freezes, why QLoRA fits in 12 GB, the dataset (80 % of the result), the chat-template trap, the hyperparameters that matter.
Fusionner ou garder l'adaptateur, convertir en GGUF, quantifier, créer un modèle nommé (Modelfile, ADAPTER), servir, et brancher dans un agent.Merge or keep the adapter, convert to GGUF, quantize, create a named model (Modelfile, ADAPTER), serve, and wire into an agent.
À imprimer ou garder ouvert pendant les labs.Print them or keep them open during the labs.
Dans labs/. Chaque script est autonome et affiche ce qu'il mesure.In labs/. Every script is self-contained and prints what it measures.
lab1_tokens.py tokens FR/EN/JSON + débit d'un endpoint lab2_memory_budget.py budget mémoire (poids + cache KV) et verdict matériel lab3_eval_harness.py évaluation d'un prompt (naïf vs durci) + test d'injection lab4_openai_client.py probe / matrix / compat sur plusieurs moteurs lab5_benchmark.py balayages de paramètres, médianes, concurrence lab6_rag_local.py index / ask / eval — RAG local avec citations lab7_finetune_qlora.py validation d'environnement puis entraînement QLoRA lab8_export_deploy.sh create-from-base / verify / merge / quantize / ADAPTER dataset/make_dataset.py génération ET validation d'un dataset d'entraînement
172.16.8.81) — 8 cœurs, 23 Go RAM, 2× RTX 3060 (24 Go), Ollama, llama.cpp (build CPU).GPU lab (172.16.8.81) — 8 cores, 23 GB RAM, 2× RTX 3060 (24 GB), Ollama, llama.cpp (CPU build).172.16.8.51) — pour le capstone de la séance 8.Agent kernel (172.16.8.51) — for the session 8 capstone.RESOURCES.md §8 indique comment revérifier l'état du lab.
Before you start: every figure in this course is dated 2026-09-18 and measured on the hardware described above. Re-measure on your own hardware — that is the point. Tool and model versions move fast: RESOURCES.md §8 shows how to re-verify the lab state.
RESOURCES.md. Les mesures proviennent des labs exécutés sur le lab (voir learning-records/).
Sources: each session carries its own "sources" section, with links to official documentation and the founding papers. The complete inventory, with what each source establishes, is in RESOURCES.md. Measurements come from the labs executed on the lab (see learning-records/).