L’IA sans jargon
L’hallucination : quand l’IA se trompe avec aplomb
Définition
Une hallucination, c’est quand l’IA produit une réponse fausse mais formulée avec assurance, comme si elle était vraie. Le modèle ne ment pas volontairement : il comble un manque d’information par ce qui lui semble le plus probable.
L’image, pour un dirigeant
Voyez un stagiaire brillant qui déteste dire « je ne sais pas » et invente une réponse plausible pour ne pas rester coincé. Le problème n’est pas qu’il se trompe de temps en temps. C’est qu’il se trompe avec aplomb, sans prévenir.
Ce que ça change dans votre PME
C’est LE risque à connaître avant de déployer. On ne le supprime pas à 100 %, on le maîtrise : brancher l’IA sur vos documents (RAG), lui faire citer ses sources, et garder un humain qui valide les décisions qui engagent. Une IA qui répond « je ne trouve pas » vaut mieux qu’une IA qui invente.
Exemple : un assistant interne à qui l’on demande une clause de contrat qui n’existe pas chez vous. Mal conçu, il en invente une, crédible. Bien conçu, il répond qu’il ne la trouve pas dans vos documents, et renvoie vers la personne qui saura.
À lire aussi dans le glossaire
Voir en pratique
Un mot clair, c’est un bon début. Un système qui tourne, c’est mieux.
30 minutes, gratuites et sans engagement. Je vous dis où l’IA rapporte chez vous, et où elle ne sert à rien.