Maria Mercanti-Guérin

Imaginez un nouvel arrivant à la Bibliothèque nationale. On lui pose une première question : « Quelle est la capitale du Pérou ? ». Il sort une réponse en deux secondes : Lima. Une heure plus tard, on lui demande de résumer la pensée de Spinoza, puis de rédiger un email commercial, puis de relire un contrat juridique. Il fait tout, vite, à peu près correctement. Personne ne l’a jamais vu ouvrir un livre.

Bienvenue dans le monde des grands modèles de langage.

Qu’est-ce qu’un LLM ? Trois définitions emboîtées

Avant d’entrer dans la mécanique, posons trois définitions de plus en plus précises. Chacune dit la même chose. Aucune ne ment. Elles s’adressent à trois publics différents.

L’analogie maîtresse : Léo, l’apprenti bibliothécaire universel

Imaginons un personnage : Léo. Léo est un apprenti bibliothécaire. Pas un bibliothécaire ordinaire. À la fin de sa formation, Léo sera capable de répondre à n’importe quelle question, dans n’importe quel domaine, avec une voix calme et un débit fluide. Pour comprendre les LLM, il suffit de suivre son parcours.

Étape 1 — Le cerveau de Léo, avant qu’il n’apprenne quoi que ce soit

Léo arrive le premier jour avec un cerveau vide. Ce cerveau est une vaste maille de petites cellules connectées entre elles : ses neurones. Au départ, ces connexions n’ont aucune valeur particulière, elles sont là, posées, comme un standard téléphonique sans abonnés. Dans un LLM, ces connexions s’appellent des paramètres. Un modèle moderne en compte des dizaines, voire des centaines de milliards. Chacun n’est qu’un petit nombre. Aucun ne « contient » de connaissance à lui seul. Tout se joue dans la coordination du réseau.

Étape 2 — La méthode d’apprentissage de Léo

On installe Léo devant la totalité de la bibliothèque. On lui fait lire les textes selon un jeu très simple : on lui cache un mot, et on lui demande de le deviner. Sa réponse est comparée au mot réel. Quand il se trompe — au début, il se trompe presque tout le temps —, on ajuste très légèrement ses connexions internes pour qu’au prochain essai, sa réponse soit un peu meilleure.

Ce jeu se répète des milliards de fois. Cette manière d’apprendre — sans qu’aucun professeur ne lui donne explicitement la « bonne » réponse, juste en lui faisant deviner ce qui manque — s’appelle l’apprentissage auto-supervisé. Petit à petit, Léo n’apprend plus seulement à prédire le mot suivant : il intériorise des régularités du langage, des associations d’idées, des structures logiques, des formules juridiques, des tournures littéraires, des conventions scientifiques.

Étape 3 — Ce qui rend Léo différent des bibliothécaires d’avant

Avant Léo, les bibliothécaires lisaient les phrases mot après mot, dans l’ordre, comme on lit une partition. C’était lent et, surtout, ils oubliaient le début de la phrase quand ils arrivaient à la fin. Léo, lui, regarde toute la phrase d’un coup. Il sait immédiatement que dans « la banque au bord de la rivière », le mot « banque » désigne une rive et non un établissement financier — parce qu’il « pèse » mentalement chacun des autres mots de la phrase pour orienter son interprétation.

Cette capacité à pondérer simultanément tous les mots d’un contexte s’appelle le mécanisme d’attention. C’est lui qui équipe l’architecture appelée Transformer, introduite en 2017 et qui a tout changé. Avant le Transformer, on avait des bibliothécaires laborieux. Après lui, on a des bibliothécaires panoramiques.

Étape 4 — L’organisation mentale de Léo

Comment Léo « range » les concepts dans sa tête ? Pas par ordre alphabétique. Il les place dans un espace à plusieurs centaines de dimensions, où la proximité géographique correspond à la proximité de sens. Dans cet espace, roi est près de reine, qui est près de monarque, et l’écart entre roi et reine ressemble à l’écart entre homme et femme. Cette représentation s’appelle un embedding. Pour Léo, ce n’est pas un dictionnaire, c’est une carte. Quand vous lui posez une question, il s’oriente sur cette carte.

Étape 5 — La spécialisation et les bonnes manières

À la sortie de cette phase d’auto-apprentissage massive — qu’on appelle le pré-entraînement —, Léo sait beaucoup, mais il est encore brut. Il peut continuer une phrase indélicate, dire des choses fausses avec aplomb, refuser de structurer ses réponses. Deux étapes supplémentaires l’attendent.

D’abord, on lui montre des milliers d’exemples d’échanges humains réussis : voici une question, voici la bonne manière d’y répondre. C’est l’apprentissage supervisé fin (fine-tuning). Léo apprend la forme et le ton attendus.

Ensuite, on lui fait produire plusieurs réponses possibles à une même question, et un humain — ou une IA imitant un humain — classe ces réponses de la meilleure à la pire. Le modèle apprend à viser ce que les évaluateurs préfèrent. Cette étape, dite RLHF (apprentissage par renforcement à partir de retours humains), est ce qui donne aux LLM modernes leur politesse, leur prudence, leurs garde-fous. Plus largement, on parle d’alignement : faire en sorte que Léo produise non pas le mot le plus probable au sens statistique, mais la réponse la plus utile, honnête et inoffensive au sens humain.

Là où l’analogie s’arrête

Léo est utile mais il est un peu trompeur. Trois différences majeures séparent un vrai bibliothécaire d’un LLM. Léo, le vrai, sait quand il ne sait pas — un LLM continue à parler avec la même assurance dans tous les cas. Léo se souvient d’une discussion d’il y a un an — un LLM oublie tout dès que sa fenêtre de contexte est dépassée, et n’a aucune mémoire entre deux conversations sauf si on lui en construit une. Enfin, Léo peut aller vérifier une information à la source, alors qu’un LLM seul ne fait que recombiner ce qu’il a intériorisé pendant son entraînement.

Tenons cette image en tête, et entrons dans le détail.

11 concepts clés des LLM, traduits

Voici la mécanique d’un LLM, concept par concept, avec sa traduction dans l’analogie de Léo et sa réalité technique exprimée sans jargon.

Ce que ça change pour vous, manager ou étudiant

Comprendre la mécanique de Léo n’est pas un savoir décoratif. Cela change la manière dont vous formulez vos demandes, dont vous évaluez ses réponses, et dont vous décidez quand l’utiliser ou non.

FAQ : 5 questions naïves (mais essentielles)

2 articles fondateurs à connaître

Les LLM contemporains reposent sur une généalogie scientifique qu’il vaut la peine de connaître. Deux papiers, à eux seuls, suffisent à raconter cette histoire.

3 prompts pour apprendre par la pratique

Comprendre les LLM en lisant un article, c’est une chose. Les comprendre en les utilisant, c’en est une autre. Voici trois exercices à faire avec ChatGPT, Claude ou Gemini.

🎯 Objectif : tester la capacité du modèle à vulgariser. 📚 Ce qu’on apprend : trois grandes familles d’apprentissage automatique, et comment les LLM les combinent.

🎯 Objectif : faire travailler le modèle sur la détection de ses propres travers. 📚 Ce qu’on apprend : la nature des biais hérités des données d’entraînement, et l’usage du LLM comme outil critique sur lui-même.

🎯 Objectif : traduire une compréhension conceptuelle en décision opérationnelle. 📚 Ce qu’on apprend : à arbitrer entre généraliste et spécialisé, en intégrant coût, qualité, confidentialité, vélocité.

Pour aller plus loin sur le blog

Cet article fait partie d’une série pédagogique consacrée au fonctionnement de l’IA. Chaque concept abordé ici a son propre billet, plus approfondi, dans la rubrique Comprendre l’IA.