RAG : comment éviter que l'IA invente (et cite ses sources)

En bref

• Une IA « invente » quand on lui demande une réponse qu'elle n'a pas : sans contexte fiable, elle comble le vide.
• Le RAG réduit drastiquement ce risque en bornant le modèle à vos documents, mais ne l'élimine pas par magie : tout se joue sur la qualité de la recherche et des garde-fous.
• Les leviers qui comptent vraiment : chunking sémantique, recherche hybride, reranking, clause « pas de preuve, pas de réponse », et citation systématique de la source.
• Un modèle plus petit, bien alimenté et borné, hallucine moins qu'un gros modèle mal nourri.

Le problème, concrètement

Sur BeForBuild.com, mon SaaS B2B, j'ai un assistant qui répond sur la documentation métier. Le premier prototype « marchait »… jusqu'à ce qu'il réponde, avec un aplomb total, une clause de contrat qui n'existait pas. En entreprise, c'est rédhibitoire : une fausse réponse confiante est pire que pas de réponse du tout.

Le piège classique : on branche un LLM sur une base documentaire, la démo impressionne, et on découvre en production que 5 à 10 % des réponses sont subtilement fausses. Trop pour faire confiance.

Pourquoi une IA invente

Un modèle de langage ne « sait » rien : il prédit le mot le plus probable. Si la question porte sur une information absente du contexte qu'on lui fournit, il génère quand même une suite plausible, c'est-à-dire une hallucination. Le RAG (Retrieval-Augmented Generation) consiste à lui fournir les bons passages de VOS documents avant qu'il réponde. Mais si la recherche remonte les mauvais passages, le modèle répond à partir d'un mauvais contexte : il « hallucine » sur des bases erronées. Autrement dit, la plupart des hallucinations d'un RAG sont en réalité des échecs de recherche, pas des défauts du modèle.

Comment on l'empêche, concrètement

1. Un découpage (chunking) sémantique

Couper les documents tous les 500 tokens sépare une définition de son exemple, ou une affirmation de sa source. On découpe plutôt par unités de sens (sections, listes, tableaux) et on répète les en-têtes/titres dans chaque morceau, pour que le passage reste compréhensible isolément.

2. Une recherche hybride

La recherche purement « sémantique » (vecteurs) rate parfois un terme exact (un numéro d'article, une référence). On combine recherche dense (embeddings) et recherche par mots-clés (BM25) : on récupère le meilleur des deux mondes.

3. Le reranking

On récupère large (20-30 passages), puis un modèle de reranking reclasse pour ne garder que les plus pertinents dans la fenêtre de contexte. Une étude ACL 2025 montre qu'évaluer plusieurs réponses candidates et garder la plus fidèle (approche « best-of-N ») réduit nettement le taux d'erreur, sans réentraîner le modèle.

4. La clause « pas de preuve, pas de réponse »

L'instruction donnée au modèle est stricte : répondre uniquement à partir des passages fournis, et dire « je ne sais pas » (ou renvoyer vers un humain) si l'information n'y est pas. C'est le garde-fou le plus rentable, et le plus négligé.

5. La citation systématique

Chaque réponse pointe le document et la page d'origine. L'utilisateur vérifie en un clic. La confiance se gagne par la traçabilité, pas par l'aplomb, et ça permet aussi de détecter les dérives.

Pourquoi ça marche, et où sont les limites

Bien fait, ce dispositif fait passer un assistant de « impressionnant mais risqué » à « fiable en production ». Mais soyons honnêtes : aucune technique ne garantit 0 % d'hallucination. L'objectif réaliste est de rendre les erreurs rares et détectables (citation + « je ne sais pas »). Pour les domaines à fort enjeu (santé, juridique), on ajoute une vérification automatique des affirmations et on mesure : il faut séparer ce qui casse (la recherche ou la génération) pour corriger au bon endroit.

Et non, il ne faut pas forcément le plus gros modèle : la qualité du retrieval et la rigueur du prompt pèsent plus que la taille du LLM. Un modèle européen plus léger, bien borné, est souvent le meilleur compromis coût/fiabilité/souveraineté (voir RAG & RGPD).

En pratique

C'est exactement ce qui tourne sur BeForBuild.com et que j'adapte à vos documents : chunking adapté à vos contenus, recherche hybride, reranking, garde-fous stricts et citations. On démarre sur un périmètre mesurable (un corpus, un cas), on évalue le taux de réponses sourcées, puis on étend.

Sources

• Mitigating Hallucination in LLMs : survey RAG, reasoning, agentic (arXiv, 2025)
• Retrieval-Augmented Generation : a comprehensive survey (arXiv, 2025)
• Supabase · RAG en production (chunking, recherche)