Vrai ou faux selon l'IA ?
| Projet | Durée | Difficulté | Âge |
|---|---|---|---|
| Youth AI Lab | 3 à 4 séances | Intermédiaire | 12-18 ans |
Matériel
- 3 courts textes sur un sujet connu des élèves (Partie 1)
- Accès à un outil d'IA générative (pour la Partie 2)
- Ensemble de sources approuvées fournies par l'enseignant·e (Partie 3)
Thèmes d'exploration
- Définir l'IA générative avec ses propres mots, en s'appuyant sur des exemples et des limites
- Expliquer que l'IA générative prédit et produit du texte/des images/etc. à partir de modèles statistiques, et non d'une « connaissance de la vérité »
- Appliquer des vérifications éthiques : exactitude, biais/équité, vie privée, transparence et intégrité académique
- Identifier au moins 3 usages inclusifs (accessibilité, soutien linguistique, aide à l'apprentissage) et au moins 3 risques
Déroulé de l'exploration
Partie 1 : Juste, faux ou risqué ?
Objectif : Amener les élèves à remarquer que du contenu académique généré par l'IA peut sembler convaincant tout en étant incorrect, incomplet ou injuste.
Les élèves reçoivent trois productions courtes sur un sujet qu'ils devraient déjà connaître :
- Un résumé/explication correct (de préférence créé ou vérifié par l'enseignant·e)
- Une explication plausible mais légèrement erronée (erreur factuelle subtile, condition manquante, lien de causalité incorrect, etc.)
- Une réponse correcte, mais biaisée ou excluante (subtile mais détectable : stéréotypes de genre, présupposés culturels, exemples ou langage excluants)
Les élèves classent chaque production comme Juste / Faux / Risqué et justifient leurs décisions avec des preuves (quelle phrase ou affirmation exacte rend le texte juste/faux/risqué), pour convenir qu'un texte bien rédigé n'est pas synonyme d'exactitude ou d'équité.
Partie 2 : Interroger l'IA sur une tâche à réponse connue
Objectif : Aider les élèves à découvrir que l'IA générative prédit et produit du contenu basé sur des modèles statistiques, plutôt que sur une « connaissance de la vérité ». Les élèves apprennent aussi que l'IA peut fournir des citations vagues ou peu fiables.
Choisir une tâche « facile » que les élèves ont déjà réalisée sans IA (problème de maths, courte explication scientifique, paragraphe d'histoire, correction grammaticale) avec des critères de réussite clairs.
Les élèves formulent des consignes (prompts) à l'IA pour produire une réponse de qualité, en utilisant des contraintes telles que :
- Expliquer par étapes adaptées à l'âge (ou en trois niveaux : simple / moyen / avancé)
- Fournir des exemples et une idée reçue courante
- Indiquer l'incertitude et les informations potentiellement manquantes
- Adapter pour l'inclusion (langage inclusif, format accessible)
- Fournir des références vérifiables (ou un plan de vérification des affirmations clés)
Les élèves comparent la production de l'IA avec leur propre travail : qu'est-ce qui correspond ? Qu'est-ce qui manque ? Qu'est-ce qui est trompeur ? Les « références » sont-elles traçables et pertinentes ? Ils révisent leurs prompts pour améliorer la qualité et répètent le cycle 2 à 3 fois.
Productions finales de la Partie 2 : Deux listes « Top 10 » par groupe (Décalogues) :
- Checklist de prompting : Comment demander des productions plus claires, plus précises et plus inclusives
- Checklist d'évaluation : Questions pour évaluer l'exactitude, la fiabilité, les biais/l'équité, la transparence et l'usage responsable
Partie 3 : La tâche à réponse inconnue
Objectif : Tester et affiner les critères des élèves dans une situation plus authentique — comment ils utilisent réellement l'IA dans leur apprentissage quotidien — pour passer de « l'IA comme expert » à « l'IA comme partenaire de réflexion ».
Les élèves choisissent une question adaptée à leur âge qu'ils ne connaissent pas déjà. D'abord, ils utilisent l'IA comme ils le feraient habituellement. Puis ils évaluent la production en utilisant leur décalogue d'évaluation (identifier les affirmations, les faiblesses possibles, les risques de biais, le contexte manquant). Discuter du rôle que les élèves attribuent souvent à l'IA (un « expert ayant la bonne réponse ») et pourquoi cela mène à des suppositions ou à une confiance excessive.
Dans un second temps, les élèves améliorent leur prompt pour que l'IA agisse comme un partenaire de réflexion (pose des questions de clarification, propose un cheminement de raisonnement…). Pour appuyer la vérification, l'enseignant·e fournit un petit ensemble de sources approuvées (1 à 3 liens ou une section de manuel). Les élèves vérifient au moins une affirmation clé et révisent leurs décalogues en conséquence.
Partie 4 : Synthèse
Objectif : Consolider les apprentissages, construire des normes partagées et co-construire une définition de l'IA générative liée à l'éthique et à l'inclusion.
Les groupes comparent et fusionnent leurs décalogues pour aboutir à un accord de classe (« règles partagées pour le prompting » + « règles pour l'évaluation »). Les élèves discutent aussi de :
- Limites/risques : hallucinations, biais, vie privée, dépendance excessive, sources floues
- Usages positifs/inclusifs : aides à l'accessibilité, étayage linguistique, brainstorming, soutien structuré de tutorat
- Usage académique éthique : ce qui peut être assisté par l'IA vs. ce que les élèves doivent faire eux-mêmes (comprendre, citer, réfléchir, produire un raisonnement original)
Production finale : accords généraux sur les règles de prompting + les règles d'évaluation.
Productions attendues
- Checklist de prompting : Comment demander des productions plus claires, plus précises et plus inclusives
- Checklist d'évaluation : Questions pour évaluer l'exactitude, la fiabilité, les biais/l'équité, la transparence et l'usage responsable
L'accroche et le côté ludique
Cette activité est amusante car elle peut être mise en place comme un jeu de détective et inclut une expérience directe avec l'IA. De plus, les élèves sont mis au défi d'améliorer l'utilisation d'un outil qu'ils connaissent déjà et l'activité se termine par un produit réel qu'ils ont aidé à créer (et qu'ils peuvent utiliser au quotidien).
Indicateurs de réussite
- Les élèves peuvent définir l'IA générative de manière plus précise, notamment concernant les limites et le rôle humain.
- Les élèves remettent en question l'IA comme autorité de savoir. Ils intègrent des réflexes : « Ça a l'air correct mais il faut vérifier… », « Cette affirmation a besoin d'une source. », « Il manque une condition/un exemple. »
- Les élèves apprennent comment le prompting change la qualité, en analysant l'évolution des prompts et la qualité des productions.
- Les élèves peuvent identifier des risques éthiques spécifiques pertinents pour l'usage scolaire (exactitude, biais/équité, vie privée, transparence, intégrité académique…).
- Les élèves savent mieux gérer les risques éthiques pertinents pour l'usage scolaire (supprimer les détails personnels, vérifier les affirmations dans des sources fiables, utiliser l'IA pour le brainstorming ou le feedback et non pour remplacer la réflexion…).
Cette fiche fait partie du projet Youth AI Lab, financé par le programme Erasmus+. Contenu sous licence CC BY-SA 4.0.