Pourquoi une IA est-elle si supérieure au clavier prédictif d'un téléphone ?

Elle a lu incomparablement plus de textes, garde en mémoire des milliers de mots de contexte au lieu d'un ou deux, et réinjecte chaque mot produit pour rester cohérente sur de longs passages. Même principe, échelle sans commune mesure.

Pourquoi une IA invente-t-elle des choses fausses avec aplomb ?

Parce qu'elle cherche le mot le plus plausible, pas le plus exact. Quand elle ignore un fait, elle comble le vide avec ce qui sonne juste. C'est le phénomène d'hallucination, conséquence directe de la prédiction du mot suivant.

Une IA écrit-elle lettre par lettre ou mot par mot ?

Par tokens : des fragments qui peuvent être un mot court entier ou un morceau de mot long. Un mot long est découpé en plusieurs tokens, un mot courant tient en un seul.

Pourquoi la même question donne-t-elle deux réponses différentes ?

Parce qu'à chaque étape le modèle ne prend pas toujours la suggestion la plus probable : il pioche parfois la deuxième ou la troisième. Ce grain de hasard, réglable via la température, évite des réponses mécaniques.

Comment une IA écrit, mot après mot : l’analogie du clavier prédictif Exercices et Prompts

Q: Alors l'IA ne comprend rien à ce qu'elle écrit ?

Elle ne comprend pas comme un humain, avec une intention et un vécu. Elle a appris des régularités statistiques si fines qu'elles produisent des réponses souvent pertinentes, sans conscience de ce que le langage désigne.

Vous tapez un SMS : « Je suis en route, j’arrive dans ». À peine le dernier mot écrit, trois propositions s’affichent au-dessus du clavier — « 5 », « quelques », « une ». Vous en tapotez une sans réfléchir. Votre téléphone vient de deviner la suite. Gardez cette image en tête : une intelligence artificielle qui rédige un texte entier ne fait, au fond, rien d’autre. En beaucoup plus puissant.

Définition : la même idée, à trois hauteurs

Niveau 1 — Tout public

Une IA qui écrit devine le mot suivant, encore et encore, comme le téléphone qui complète vos phrases.

Niveau 2 — Manager / décideur

Un grand modèle de langage produit un texte en prédisant, à chaque étape, le fragment le plus probable compte tenu de tout ce qui précède — puis recommence. Il n’écrit jamais une phrase entière d’un seul coup.

Niveau 3 — Définition académique

La génération autorégressive consiste à modéliser la probabilité conditionnelle du token suivant sachant la séquence antérieure, à échantillonner ce token, puis à le réinjecter dans le contexte pour prédire le suivant.

L’analogie-maîtresse : le clavier prédictif poussé à l’extrême

Reprenons votre clavier de smartphone. Quand vous écrivez, il observe les derniers mots tapés et propose trois suites possibles, classées de la plus probable à la moins probable. D’où sort-il ces suggestions ? De l’observation de millions de phrases déjà écrites par d’autres : après « Je vais au », le mot « travail » revient souvent, « cinéma » un peu moins, « dentiste » rarement. Le clavier ne comprend pas votre journée ; il a simplement appris des régularités.

Un grand modèle de langage — ChatGPT, Claude, Gemini — fonctionne sur ce principe exact, mais avec deux différences d’échelle qui changent tout.

Première différence : ce qu’il a lu. Là où votre clavier s’est entraîné sur vos SMS, le modèle a, lui, « digéré » l’essentiel des textes disponibles en ligne — livres, articles, encyclopédies, forums. Ses suggestions ne portent donc pas sur trois mots de la vie courante, mais sur la quasi-totalité des façons d’enchaîner des idées en français comme en dix autres langues.

Seconde différence : il ne s’arrête jamais à un mot. C’est le cœur du mécanisme. Le clavier vous propose un mot, puis vous laisse la main. Le modèle, lui, choisit le fragment le plus probable, l’écrit… puis relit l’ensemble — votre demande plus le fragment qu’il vient d’ajouter — et recommence. Chaque mot validé devient le point de départ du suivant. C’est une boucle : prédire, écrire, relire, prédire à nouveau. Déroulée des centaines de fois en une poignée de secondes, cette boucle produit un paragraphe, un courriel, une dissertation.

Voilà pourquoi le texte semble « pensé » : à chaque pas, le modèle tient compte de tout ce qui précède, ce qui maintient une cohérence de bout en bout. Mais aucun plan d’ensemble n’a été tracé au départ. Le texte se construit pas à pas, comme un funambule qui ne regarde que le mètre de corde devant lui.

Là où l’analogie s’arrête. Votre clavier ne retient qu’un mot ou deux de contexte et perd vite le fil ; le modèle, lui, garde en mémoire des milliers de mots à la fois. Surtout, le clavier comme le modèle optimisent ce qui est probable, jamais ce qui est vrai. La fluidité d’un texte ne dit rien de son exactitude — retenez bien ce point, nous y revenons plus bas.

La boucle, en un schéma

Déconstruction : du clavier au modèle

Notion technique	Dans notre analogie	En réalité, sans jargon
Token	Le mot proposé au-dessus du clavier	Un fragment de texte (souvent un bout de mot) que le modèle manipule
Contexte	Ce que vous avez déjà tapé	Votre demande + tout le texte déjà généré, relus à chaque étape
Probabilités	Les 3 suggestions classées du plus au moins probable	Un score de vraisemblance attribué à chaque fragment candidat
Échantillonnage (température)	Toujours prendre la 1re suggestion, ou oser la 2e / 3e	Le réglage qui rend le modèle plus sage ou plus créatif
Autorégression	Chaque mot validé relance la suggestion suivante	La boucle « écrire puis relire » qui construit le texte pas à pas

Ce que ça change pour vous

Comprendre cette mécanique n’est pas un luxe d’ingénieur. Cela transforme votre façon d’utiliser l’outil au quotidien.

Fluide ne veut pas dire fiable. Le modèle optimise la vraisemblance, pas la vérité. Un chiffre, une date, une référence juridique peuvent être parfaitement bien tournés et parfaitement faux. Vérifiez toujours les faits sensibles.
Le début de votre demande oriente tout. Puisque chaque mot prédit dépend du contexte, les premières lignes de votre prompt pèsent lourd. Un cadrage précis en ouverture vaut mieux qu’une rallonge de corrections.
Le modèle prolonge volontiers une erreur. S’il s’engage sur une fausse piste, la boucle tend à la poursuivre par cohérence plutôt qu’à se corriger. D’où l’intérêt de relancer sur une base propre quand une réponse dérape.
Deux fois la même question, deux réponses. L’échantillonnage introduit une part de hasard. Ce n’est pas un bug : c’est le prix de la créativité. Pour des réponses plus stables, demandez un ton factuel ou un format strict.
Ancrer plutôt que faire confiance. Fournissez vous-même les données (un extrait, un tableau, vos notes) : le modèle aura alors un contexte fiable sur lequel appuyer ses prédictions.

FAQ pour débuter

Alors l’IA ne comprend rien à ce qu’elle écrit ?▼

Elle ne « comprend » pas comme un humain, avec une intention et un vécu. Elle a appris des régularités statistiques si fines qu’elles produisent des réponses souvent pertinentes. Disons qu’elle manipule des formes de langage très bien, sans conscience de ce qu’elles désignent.

Si c’est juste de la prédiction, pourquoi c’est si supérieur au clavier de mon téléphone ?▼

Trois raisons : il a lu incomparablement plus de textes, il garde en mémoire des milliers de mots de contexte au lieu d’un ou deux, et il réinjecte chaque mot produit pour rester cohérent sur de longs passages. Même principe, échelle sans commune mesure.

Pourquoi invente-t-elle des choses fausses avec autant d’aplomb ?▼

Parce qu’elle cherche le mot le plus plausible, pas le plus exact. Quand elle ignore un fait, elle ne le sait pas : elle comble le vide avec ce qui « sonne juste ». C’est le phénomène d’hallucination, conséquence directe de la prédiction.

Elle écrit lettre par lettre ou mot par mot ?▼

Ni l’un ni l’autre, exactement. Elle procède par tokens : des fragments qui peuvent être un mot court entier, ou un morceau de mot long. « Anticonstitutionnel » sera découpé en plusieurs tokens, « chat » en un seul.

Pourquoi la même question me donne deux réponses différentes ?▼

Parce qu’à chaque étape, le modèle ne prend pas toujours la suggestion numéro un : il pioche parfois la deuxième ou la troisième. Ce grain de hasard, réglable, sert à éviter des réponses mécaniques et à laisser place à la créativité.

Les deux articles fondateurs

1. Shannon et le jeu de la lettre suivante (1951)

Contexte. Ingénieur chez Bell, Claude Shannon cherche à mesurer la « prévisibilité » d’une langue. Il imagine une expérience étonnamment simple : montrer un texte à une personne et lui demander de deviner la lettre suivante, encore et encore.

Idée centrale. Si l’on devine si bien la suite, c’est que le langage est en grande partie redondant : la suite d’un texte est en bonne part contenue dans ce qui précède. Prédire le caractère suivant devient une façon de mesurer la structure d’une langue.

Pourquoi ça compte. C’est l’acte de naissance de l’idée que « prédire la suite » est une porte d’entrée vers le langage lui-même — exactement le pari des IA actuelles, 70 ans plus tard.

✅ Shannon, C. E. (1951). Prediction and Entropy of Printed English. Bell System Technical Journal, 30(1), 50–64.

2. Bengio et le premier modèle de langage neuronal (2003)

Contexte. Au début des années 2000, prédire le mot suivant butait sur un mur : trop de combinaisons possibles, jamais assez d’exemples. L’équipe de Yoshua Bengio propose d’y répondre avec un réseau de neurones.

Idée centrale. Plutôt que de compter des suites de mots exactes, le modèle apprend à représenter chaque mot par un jeu de coordonnées, de sorte que des mots de sens proche se ressemblent. Une phrase jamais vue peut alors recevoir une bonne prédiction si elle ressemble à des phrases connues.

Pourquoi ça compte. Ce papier pose l’architecture — prédire le mot suivant via un réseau de neurones — sur laquelle reposent, en droite ligne, les modèles d’aujourd’hui.

✅ Bengio, Y., Ducharme, R., Vincent, P., & Jauvin, C. (2003). A Neural Probabilistic Language Model. Journal of Machine Learning Research, 3, 1137–1155.

Trois prompts pour apprendre

Complète la phrase « Le directeur marketing décida de » de cinq façons différentes, de la plus banale à la plus surprenante. Pour chacune, dis-moi en une ligne pourquoi tu l’as jugée probable.

🎯 Explorer | 📚 Ce qu’on apprend : la notion de « suite probable » et le fait que plusieurs suites coexistent.

Explique-moi, comme à un débutant, pourquoi tu peux écrire une phrase très fluide tout en disant une chose fausse. Utilise un exemple concret.

🎯 Tester sa compréhension | 📚 Ce qu’on apprend : la différence entre vraisemblance et vérité.

Voici trois chiffres de vente que je te donne moi-même : [colle tes données]. Rédige-moi une synthèse en t’appuyant uniquement sur ces chiffres, sans en inventer d’autres.

🎯 Cas pratique management | 📚 Ce qu’on apprend : ancrer le modèle sur des données fournies pour limiter les inventions.

📝 Note méthodologique. Cet article a été rédigé avec l’aide d’une IA générative, sur la base d’un gabarit pédagogique et d’analogies conçus par l’autrice. Les deux références fondatrices ont été vérifiées manuellement. L’objectif reste pédagogique : rendre un concept technique accessible aux étudiants et cadres en management.