Définition
Une hallucination est une réponse produite par un modèle d'IA qui semble plausible mais qui est fausse ou inventée, par exemple un chiffre, une source ou un fait qui n'existe pas.
Hallucination : comment ça fonctionne ?
Les hallucinations viennent du fonctionnement même des modèles de langage, qui produisent le texte le plus probable sans vérifier sa véracité. Elles sont plus fréquentes quand le modèle manque d'information, quand la question est ambiguë ou quand on lui demande des détails précis qu'il ne connaît pas. On les réduit en fournissant des sources fiables (RAG), en interdisant explicitement de répondre sans source, en vérifiant les sorties par des règles et en mesurant la précision sur des jeux de tests.
Hallucination : un exemple concret
Sans données connectées, un chatbot répond qu'un produit est livré « en 24 h » alors que le délai réel est de 72 h. Connecté au système de livraison, l'agent donne le délai réel.
Hallucination : pourquoi est-ce important pour une entreprise ?
Pour une entreprise, une hallucination peut créer un engagement commercial erroné ; c'est pourquoi les agents conçus par Neuratech Solutions répondent uniquement à partir de sources vérifiées.