Hallucination IA

Une hallucination IA, c'est une réponse fausse qu'un modèle génératif énonce avec la même assurance qu'une réponse vraie : un chiffre inventé, une source qui n'existe pas, un dispositif de financement mal décrit. En reconversion, l'enjeu n'est pas théorique. Une information erronée sur le CPF, l'ARE ou une certification peut coûter du temps et de l'argent à quelqu'un qui engage une décision sur cette base.

Deux formes d'hallucination, un seul réflexe

Le risque n'est pas le même selon ce que le modèle invente. Un chiffre anodin se corrige vite. Une règle de droit fabriquée de toutes pièces peut coûter un dossier entier.

Pourquoi l'IA invente sans le dire

Le modèle ne ment pas volontairement. Il produit le texte le plus probable, qui n'est pas toujours le texte vrai. Les modèles récents progressent : certains signalent désormais leurs incertitudes plutôt que de les masquer. C'est un vrai pas. Mais le principe de prudence reste entier — une réponse formulée avec assurance n'est pas pour autant une réponse vérifiée.

Quand l'IA fabrique du droit

L'hallucination réglementaire est la variante la plus coûteuse, parce qu'elle touche directement au portefeuille et au calendrier d'une reconversion. Elle ne se contente pas d'inventer un chiffre anodin : elle fabrique du droit. Un article de loi qui n'a jamais existé, un décret au numéro crédible, une condition d'accès à un dispositif inventée de toutes pièces. Le tout énoncé avec le même aplomb qu'une information exacte.

Les professionnels de la formation ne sont pas épargnés. En produisant des modules assistés par IA, Lefebvre Dalloz Compétences pose comme règle d'« éviter toute hallucination d'IA », parce qu'un contenu de formation qui cite une règle inexistante engage la responsabilité de l'organisme. La recherche le nomme sans détour : aux 5es Journées Vincent Merle du Céreq, l'IA « révèle aussi ses limites : biais, erreurs, hallucinations, dépendance à des modèles opaques ».

La méthode : l'IA propose, la source officielle confirme

La méthode tient en une phrase. L'IA propose une piste, la source officielle confirme le fait. Un chiffre de financement, une condition d'accès à un dispositif, une règle de cumul avec l'ARE : cela se vérifie sur service-public.fr, France compétences ou France Travail, jamais sur la seule parole d'un modèle. Une certification se contrôle en quelques clics sur France compétences. Un texte de loi se lit sur Légifrance.

C'est la posture d'un adulte lucide : utiliser l'outil sans lui déléguer sa décision.

Deux situations concrètes

Un homme de 42 ans face à un reste à charge mal annoncé

Il prépare un titre professionnel financé par son CPF. Un assistant IA lui annonce un reste à charge à 30 €. Avant de valider son dossier, il vérifie sur service-public.fr : le montant réel est très différent. Sans cette vérification, il aurait engagé son financement sur un budget faux, et découvert l'écart au moment de payer.

Une femme de 39 ans et une certification qu'elle croyait valide

Elle prépare une reconversion vers un métier précis. Un modèle conversationnel lui décrit une certification comme active et enregistrée au RNCP. Avant de s'inscrire, elle vérifie sur France compétences : la fiche est en réalité échue. Elle réoriente son choix vers un titre encore reconnu, avant d'avoir engagé le moindre financement.

Les erreurs fréquentes

• Poser une question de financement à l'IA et agir sans repasser par service-public.fr ou France compétences.
• Confondre l'assurance du ton avec l'exactitude du contenu : l'IA affirme sur le faux avec la même fluidité que sur le vrai.
• Citer dans un dossier ou une candidature un article de loi ou un décret jamais vérifié sur Légifrance.
• Faire confiance à un chiffre de cumul avec l'ARE sans repasser par France Travail.
• Pour un organisme de formation, diffuser un contenu pédagogique assisté par IA sans relecture métier — un contenu qui cite une règle inexistante engage sa responsabilité.

Pour votre reconversion

• IA et reconversion professionnelle
• Reconversion professionnelle
• Un diagnostic pour clarifier votre projet
• Prompt engineering
• Apprentissage adaptatif