Aller au contenu
← Retour aux publicationsFiabilité et vérification

Vérifier l'ancrage de la réponse dans ses sources

Asai et al., « Self-RAG: Learning to Retrieve, Generate and Critique through Self-Reflection », ICLR 2024 · arXiv:2310.11511

Conditionner la génération sur des passages récupérés réduit le taux d'hallucination sans l'annuler : rien dans l'objectif de génération n'impose que chaque assertion produite soit entailée par le contexte. Le modèle peut extrapoler au-delà de ce que le passage établit, ou ignorer un passage pertinent. Ces deux défaillances sont distinctes de celles de la récupération, et invisibles à l'utilisateur, puisque la réponse reste bien formée et accompagnée de citations plausibles.

Asai et ses coauteurs proposent à ICLR 2024 d'entraîner le modèle à émettre, en plus du texte, des jetons de réflexion qui explicitent son propre jugement : la récupération est-elle nécessaire pour ce segment, les passages récupérés sont-ils pertinents, le segment généré est-il soutenu par ces passages, et la réponse est-elle utile à la question posée. Ces jugements, produits pendant le décodage, permettent de sélectionner ou de rejeter des segments et rendent le comportement du système contrôlable à l'inférence. Le point important pour nous est la dissociation de deux critères que la littérature confond souvent : le soutien factuel par les sources et la pertinence par rapport à la question.

DeepView reprend cette dissociation sans en reprendre l'implémentation. Nous n'entraînons pas de modèle à émettre des jetons de réflexion, ce qui supposerait un affinage propre à chaque déploiement. Le soutien factuel est contrôlé après rédaction, phrase par phrase : chaque phrase est rapprochée des extraits qu'elle cite, et chaque chiffre doit se retrouver dans ses sources. Ce contrôle est déterministe, sans second appel au modèle : une phrase non étayée est signalée à l'écran et abaisse la confiance affichée, elle n'est pas réécrite en silence. La pertinence relève de l'agent de recherche, qui juge les passages qu'il lit avant de décider s'il en sait assez pour répondre.

Entrer dans le détail

Les choix d'architecture, les écarts assumés par rapport à la littérature et les résultats intermédiaires de l'évaluation se discutent directement avec l'équipe qui construit le système.