Vérifier ce que produit l'IA

Aller àMéthodeContraintesErreurs à éviterOù vérifier

Imprimer la fiche (A4)

Définition et objectifs

Définition : une « hallucination » est une réponse fausse présentée avec assurance (fait inventé, référence inexistante, chiffre erroné). Objectif : ne rien utiliser en classe qui n’ait été contrôlé, en proportion de ce qui est en jeu.

Méthode

1. 1

   Étape 1 : Repérer ce qui doit être contrôlé

   Souligner dans la réponse tout ce qui est vérifiable et qui compte : chiffres, dates, noms, références, textes officiels, calculs, définitions.

   Exemple « La réponse cite un décret et un seuil chiffré : deux éléments à vérifier. »

2. 2

   Étape 2 : Contrôler à la source

   Ouvrir le document officiel ou la référence, lire le passage et comparer. Ne jamais valider une source citée par l'IA sans l'ouvrir.

   Exemple « Texte retrouvé au BO Agri : la date et le seuil cités ne figurent pas. »

   • Où trouver quoi
3. 3

   Étape 3 : Tester la solidité

   Reformuler la question, ou la poser à un autre outil : une réponse qui change complètement est suspecte. Demander « sur quoi te fondes-tu ? » ne prouve rien.

   Exemple « Deux formulations, deux chiffres différents : la réponse n'est pas fiable. »

4. 4

   Étape 4 : Corriger et décider

   Corriger ou supprimer l'élément douteux, puis décider de l'usage. En cas de doute sur un point réglementaire, ne pas l'utiliser.

   Exemple « Chiffre supprimé, remplacé par le renvoi au texte officiel. »

Contraintes et précautions

• Plus l’enjeu est grand, plus le contrôle est strict : une consigne se relit, un texte réglementaire se vérifie mot à mot dans la source.
• Seul le texte officiel fait foi sur la réglementation, les référentiels et les droits : BO Agri, Chlorofil.
• Une IA peut se tromper en calcul : refaire les calculs vous-même ou avec un tableur.
• Une IA reproduit des biais : relire les exemples et les mises en situation pour repérer les stéréotypes.
• Ne pas coller de document confidentiel pour le faire vérifier. Protéger les données.

Erreurs à éviter

• À éviter Faire confiance à une référence parce qu’elle a l’air précise (numéro de décret, titre d’ouvrage).À privilégier Chercher la référence dans la source officielle ; si elle n’existe pas, l’écarter.Une IA peut inventer des références plausibles.
• À éviter Demander à l’IA « es-tu sûre ? » et s’en contenter.À privilégier Contrôler soi-même dans un document de référence.L’assurance d’une IA ne prouve pas l’exactitude.

Astuce Test des deux sources : une information que vous ne retrouvez dans aucun document officiel ni de référence est suspecte, même si elle est bien formulée.

Où vérifier quoi

Information à contrôler	Où la vérifier
Texte réglementaire, note de service, droits et obligations	BO Agri ; lire le texte entier et sa date
Capacité, critère, horaire d’un diplôme	Référentiel du diplôme sur Chlorofil
Règle de l’établissement (discipline, numérique)	Règlement intérieur, charte IA
Fait scientifique ou chiffre	Un document de référence (manuel, site institutionnel), pas une autre IA
Calcul	Tableur ou calculatrice
Image, citation, auteur	Source d’origine ; licence de l’image

Sources et limites

Sources

• CNIL, recommandations pour les enseignants : les réponses d’un outil d’IA peuvent être erronées ; ne pas déléguer l’évaluation et la décision.
• Cadre d’usage de l’IA en éducation (ministère de l’Éducation nationale, 14 juin 2025), d’après des comptes rendus : regard critique face aux biais et aux hallucinations.

Limites : la fiche donne une démarche de contrôle, elle ne garantit pas l’exactitude d’une réponse.

Voir aussi : L’IA pour préparer ses cours · Où trouver quoi.