Plausible n’est pas vrai
À la fin de cette étape, vous saurez :
- Expliquer pourquoi un modèle peut inventer avec aplomb
- Choisir la bonne parade selon l’enjeu
Situation · histoire imaginée
Sonia demande à un assistant l’adresse d’un fournisseur de pièces détachées. Il lui en donne une, très précise, avec un numéro de téléphone. Le courrier revient : l’adresse n’existe pas.
L’essentiel
Un modèle peut produire une réponse plausible mais fausse : c’est une Hallucination Réponse plausible mais fausse générée par un modèle. Voir le glossaire. D’après une étude de 2025, les modèles hallucinent parce que leur entraînement et leur évaluation récompensent le fait de deviner plutôt que de reconnaître une incertitude, comme un élève qui tente sa chance à un examen Why Language Models Hallucinate (septembre 2025)Kalai, Nachum, Vempala et Zhang (arXiv).
Source primaire · consultée le 25 septembre 2026
Consulter la source.
Cas limite · Et si… ? · situation imaginée
La réponse sûre d’elle… et fausse
Pour un courrier à un fournisseur qui ne livre pas, Marc demande à un assistant conversationnel de citer les textes de loi qui appuient sa réclamation. La réponse arrive en quelques secondes : trois articles, avec leur numéro et une phrase entre guillemets pour chacun. Le ton est assuré.
Trois parades, selon l’enjeu
Plus l’enjeu est grand, plus on les combine : un brouillon sans conséquence demande une relecture, un chiffre ou une règle exige une vérification à la source, et une question sur vos propres documents gagne à passer par eux.
- Vérifier tout chiffre, toute date, tout nom et toute référence à la source, d’autant plus qu’ils sont précis.
- Autoriser le « je ne sais pas » et demander des sources, à vérifier aussi, car un assistant peut en inventer : voir l’étape Un bon prompt en cinq ingrédients.
- Fournir les documents : un assistant qui répond à partir de documents retrouvés pour la question (RAG Génération augmentée par récupération ; l’IA répond à partir de documents retrouvés. Voir le glossaire) s’appuie moins sur sa mémoire, et gagne en exactitude si ces documents sont fiables Glossaire de la documentation (tokens, température, fenêtre de contexte, RAG)Anthropic.
Source primaire · consultée le 25 septembre 2026
Consulter la source. Voir la fiche Interroger vos documents sans tout relire.
Le saviez-vous ?
Un tribunal a-t-il déjà sanctionné des citations inventées par une IA ?
Oui. Le 22 juin 2023, un juge fédéral de New York a sanctionné deux avocats et leur cabinet de 5 000 dollars : leur mémoire citait des décisions inexistantes, générées par ChatGPT, et ils avaient maintenu ces citations alors que le tribunal doutait de leur existence Mata v. Avianca, Inc., 22-cv-1461 (S.D.N.Y., 22 juin 2023), opinion et ordonnance de sanctionsTribunal fédéral du district sud de New York (texte de la décision, copie hébergée par UC Berkeley Law).
Source primaire · consultée le 3 octobre 2026
Consulter la source. Le juge écrit, en substance, qu’utiliser un outil d’IA fiable pour s’assister n’a rien d’irrégulier en soi, mais que les règles imposent aux avocats de garantir l’exactitude de leurs écritures.
Question
Pourquoi une adresse inventée ?
Choisissez la bonne réponse.
À retenir
- Une hallucination est une réponse plausible mais fausse, souvent dite avec assurance.
- Elle vient de la façon dont les modèles sont entraînés et évalués : deviner est récompensé.
- Vérifiez à la source, autorisez le « je ne sais pas », fournissez vos documents.
Sources
- Why Language Models Hallucinate (septembre 2025), Kalai, Nachum, Vempala et Zhang (arXiv)source primaire
- Glossaire de la documentation (tokens, température, fenêtre de contexte, RAG), Anthropicsource primaire
- Mata v. Avianca, Inc., 22-cv-1461 (S.D.N.Y., 22 juin 2023), opinion et ordonnance de sanctions, Tribunal fédéral du district sud de New York (texte de la décision, copie hébergée par UC Berkeley Law)source primaire
Contenu tiré de la base de connaissance du site (§2.9, §2.10, §3.5), dont chaque affirmation est sourcée et datée. Dernière vérification des sources : 3 octobre 2026.
Une précaution. L’auteur de ce site n’est pas juriste. Les règles citées ont été documentées avec soin, à partir de sources officielles datées, mais une erreur ou un changement récent reste possible : en cas de doute, vérifiez le texte officiel ou demandez l’avis d’un professionnel. Vous avez repéré une erreur ? Signalez-la : chaque signalement aide les lecteurs suivants.
Fin de l’étape
Faites les activités de la page, puis terminez l’étape.