Distinguer le vrai du faux avec l'IA
| Projet | Durée | Difficulté | Âge |
|---|---|---|---|
| Youth AI Lab | 3 à 4 séances | Intermédiaire | 12-18 ans |
Matériel
- 3 courts textes sur un sujet connu des participant·es (Partie 1)
- Accès à un outil d'IA générative (pour la Partie 2)
- Ensemble de sources approuvées fournies par l'animateur·rice (Partie 3)
Thèmes d'exploration
- Définir l'IA générative avec ses propres mots, en s'appuyant sur des exemples et des limites
- Expliquer que l'IA générative prédit et produit du texte/des images/etc. à partir de modèles statistiques, et non d'une « connaissance de la vérité »
- Appliquer des vérifications éthiques : exactitude, biais/équité, vie privée, transparence et intégrité académique
- Identifier au moins 3 usages inclusifs (accessibilité, soutien linguistique, aide à l'apprentissage) et au moins 3 risques
Déroulé de l'exploration
Partie 1 : Juste, faux ou risqué ?
Objectif : Amener les participant·es à remarquer que du contenu académique généré par l'IA peut sembler convaincant tout en étant incorrect, incomplet ou injuste.
Les participant·es reçoivent trois productions courtes sur un sujet censé leur être déjà familier :
- Un résumé/explication correct (de préférence créé ou vérifié par l'animateur·rice)
- Une explication plausible mais légèrement erronée (erreur factuelle subtile, condition manquante, lien de causalité incorrect, etc.)
- Une réponse correcte, mais biaisée ou excluante (subtile mais détectable : stéréotypes de genre, présupposés culturels, exemples ou langage excluants)
Les participant·es classent chaque production comme Juste / Faux / Risqué et justifient leurs décisions avec des preuves (quelle phrase ou affirmation exacte rend le texte juste/faux/risqué), pour convenir qu'un texte bien rédigé n'est pas synonyme d'exactitude ou d'équité.
Partie 2 : Interroger l'IA sur une tâche à réponse connue
Objectif : Aider les participant·es à découvrir que l'IA générative prédit et produit du contenu basé sur des modèles statistiques, plutôt que sur une « connaissance de la vérité ». Les participant·es apprennent aussi que l'IA peut fournir des citations vagues ou peu fiables.
Choisir une tâche « facile » que les participant·es ont déjà réalisée sans IA (problème de maths, courte explication scientifique, paragraphe d'histoire, correction grammaticale) avec des critères de réussite clairs.
Les participant·es formulent des consignes (prompts) à l'IA pour produire une réponse de qualité, en utilisant des contraintes telles que :
- Expliquer par étapes adaptées à l'âge (ou en trois niveaux : simple / moyen / avancé)
- Fournir des exemples et une idée reçue courante
- Indiquer l'incertitude et les informations potentiellement manquantes
- Adapter pour l'inclusion (langage inclusif, format accessible)
- Fournir des références vérifiables (ou un plan de vérification des affirmations clés)
Les participant·es comparent la production de l'IA avec leur propre travail : qu'est-ce qui correspond ? Qu'est-ce qui manque ? Qu'est-ce qui est trompeur ? Les « références » sont-elles traçables et pertinentes ? Le groupe révise ses prompts pour améliorer la qualité et répète le cycle 2 à 3 fois.
Productions finales de la Partie 2 : Deux listes « Top 10 » par groupe (Décalogues) :
- Checklist de prompting : Comment demander des productions plus claires, plus précises et plus inclusives
- Checklist d'évaluation : Questions pour évaluer l'exactitude, la fiabilité, les biais/l'équité, la transparence et l'usage responsable
Partie 3 : La tâche à réponse inconnue
Objectif : Tester et affiner les critères des participant·es dans une situation plus authentique — comment l'IA est réellement utilisée au quotidien — pour passer de « l'IA comme expert » à « l'IA comme partenaire de réflexion ».
Les participant·es choisissent une question adaptée à leur âge, dont la réponse leur est encore inconnue. D'abord, elles et ils interrogent l'IA comme ils le feraient habituellement. Puis le groupe évalue la production en utilisant leur décalogue d'évaluation (identifier les affirmations, les faiblesses possibles, les risques de biais, le contexte manquant). Discuter du rôle que les participant·es attribuent souvent à l'IA (un « expert ayant la bonne réponse ») et pourquoi cela mène à des suppositions ou à une confiance excessive.
Dans un second temps, les participant·es améliorent leur prompt pour que l'IA agisse comme un partenaire de réflexion (pose des questions de clarification, propose un cheminement de raisonnement…). Pour appuyer la vérification, l'animateur·rice fournit un petit ensemble de sources approuvées (1 à 3 liens ou une section de manuel). Les participant·es vérifient au moins une affirmation clé et révisent leurs décalogues en conséquence.
Partie 4 : Synthèse
Objectif : Consolider les apprentissages, construire des normes partagées et co-construire une définition de l'IA générative liée à l'éthique et à l'inclusion.
Les groupes comparent et fusionnent leurs décalogues pour aboutir à un accord collectif (« règles partagées pour le prompting » + « règles pour l'évaluation »). Les participant·es discutent aussi de :
- Limites/risques : hallucinations, biais, vie privée, dépendance excessive, sources floues
- Usages positifs/inclusifs : aides à l'accessibilité, étayage linguistique, brainstorming, soutien structuré de tutorat
- Usage académique éthique : ce qui peut être assisté par l'IA vs. ce que les participant·es doivent faire par elles et eux-mêmes (comprendre, citer, réfléchir, produire un raisonnement original)
Production finale : accords généraux sur les règles de prompting + les règles d'évaluation.
Productions attendues
- Checklist de prompting : Comment demander des productions plus claires, plus précises et plus inclusives
- Checklist d'évaluation : Questions pour évaluer l'exactitude, la fiabilité, les biais/l'équité, la transparence et l'usage responsable
L'accroche et le côté ludique
Cette activité est amusante car elle peut être mise en place comme un jeu de détective et inclut une expérience directe avec l'IA. De plus, les participant·es sont mis·es au défi d'améliorer l'utilisation d'un outil déjà familier, et l'activité se termine par un produit réel que le groupe a aidé à créer, et qu'il peut réutiliser au quotidien.
Indicateurs de réussite
- Les participant·es peuvent définir l'IA générative de manière plus précise, notamment concernant les limites et le rôle humain.
- Les participant·es remettent en question l'IA comme autorité de savoir et intègrent des réflexes : « Ça a l'air correct mais il faut vérifier… », « Cette affirmation a besoin d'une source. », « Il manque une condition/un exemple. »
- Les participant·es apprennent comment le prompting change la qualité, en analysant l'évolution des prompts et la qualité des productions.
- Les participant·es peuvent identifier des risques éthiques spécifiques pertinents pour l'usage scolaire (exactitude, biais/équité, vie privée, transparence, intégrité académique…).
- Les participant·es savent mieux gérer les risques éthiques pertinents pour l'usage scolaire (supprimer les détails personnels, vérifier les affirmations dans des sources fiables, utiliser l'IA pour le brainstorming ou le feedback et non pour remplacer la réflexion…).
Cette fiche fait partie du projet Youth AI Lab, financé par le programme Erasmus+. Contenu sous licence CC BY-SA 4.0.