TraAM 2023-2024 : image numérique et IA

Scénario pédagogique sur l'image numérique et l'IA réalisé dans le cadre des Travaux Académiques mutualisés EMI 2023-2024.

Séquence proposée par Olivia Miraucourt, professeur de SNT
et Sophie BON, professeur documentaliste

Depuis qu’elles sont accessibles au grand public, de nombreux internautes se servent désormais des IA génératives d’image pour des créations artistiques. D'autres ont fait le choix de relier ces images à l'actualité. On se souvient aussi tous cette image du pape en doudoune Balenciaga illustrant un parti pris humoristique. Cependant, certaines images provenant d’IA prêtent nettement moins à sourire et ont clairement un objectif malveillant.
Dans ce scénario conçu à quatre mains, nous avons souhaité sensibiliser nos élèves à ce type d’image et les outiller pour avoir le recul critique indispensable.

Classe concernée :

2nde

Disciplines :

SNT, EMI

Organisation :

4 séances d’1 heure, en co-enseignement (professeur de SNT & professeur-documentaliste), utilisation de la plateforme de cours Moodle.

Objectifs :

SNT :

• Comprendre comment sont entrainées les IA
• Comprendre l'importance des données (qualité et quantité) dans l'entrainement des IA

EMI :

• Comment identifier les images générées par des IA ?
• Comment exercer son esprit critique face aux textes générés par des IA conversationnelles ?

Compétences travaillées :

Référentiel EMI :

• Distinguer les sources d’information, s’interroger sur la validité et sur la fiabilité d’une information
• Découvrir les représentations du monde véhiculées par les médias

Lien avec le programme de SNT :

• Photographie numérique : impact sur les pratiques humaines

Référentiel de compétences du CRCN :

Domaine 1 : Informations et données

Compétence 1.1 Mener une recherche et une veille d’information
Compétence 1.3 Traiter des données

Déroulé

Séance 1 :

• Découverte de l’IA, de son fonctionnement et de ses utilisations dans la vie courante à partir de deux vidéos / activité

o Qu’est-ce que l’intelligence artificielle ? CEA, L’esprit sorcier, 3mns13 : https://www.youtube.com/watch?v=iARAMmS_43Y
o Histoire de l’intelligence artificielle. CEA, L’esprit sorcier, 7mns38 : https://www.youtube.com/watch?v=qmwJx-r5vmw

Les élèves visionnent collectivement la vidéo et complètent les questions de la fiche élève n°1.

• Comprendre comment fonctionnent les algorithmes d’apprentissage automatique : machine learning et deep learning / cours
  Explication par l’enseignante à partir des informations fournies dans la fiche de travail.
  
  

Annexes : 

Fiche élève n°1 : Découverte de l’IA élève (utilisée pour les séances 1 & 2)

Fiche élève n°1 corrigée

Séance 2 :

• Comprendre comment fonctionnent les algorithmes d’apprentissage automatique : machine learning et deep learning / activité
  
  Utilisation de l’interface d’entrainement d’IA « Teachable machine » de Google (https://teachablemachine.withgoogle.com/) afin qu’elle puisse reconnaitre et distinguer deux actrices qui se ressemblent beaucoup (Natalie Portman et Keira Knightley). Les lots d’images pour entrainer l’IA sont fournis aux élèves.
  Les consignes sont à retrouver dans la fiche élève n°1.

La mise en commun des résultats et les conclusions permettent de faire apparaitre que :

o l’IA peut se tromper et que pour pallier ce problème, il faut lui fournir davantage d’images en entrée.
o Le modèle sait uniquement faire ce pour quoi il a été entrainé.
o La manière d’entrainer une IA a des conséquences non seulement sur le taux de réussite mais aussi sur le plan éthique. Il est en particulier bon de s’assurer que le jeu de données utilisé pour l’entrainement n’est pas biaisé, par exemple qu’il ne favorise pas une classe de manière systématique. En effet, des études ont mis en évidence des préjugés raciaux dans certains logiciels de reconnaissance faciale qui ont plus de mal à reconnaître les peaux non blanches.

Séance 3 :

• Qu’est-ce qu’une IA génératrice d’image ? Cours
  
  Quelques mots-clés descriptifs (ce qu'on appelle un prompt) permettent de créer une image (text to image). C'est le principe de nombreuses intelligences artificielles génératives d'image comme Midjourney, DALL-E, Craiyon ou encore Stable Diffusion. Ces outils sont capables, à partir d'une immense base de données, sans cesse alimentée par les demandes d'utilisateurs, de générer une infinité d'images.
  Il s'agit d'un domaine qui évolue extrêmement vite, avec des applications de plus en plus performantes.
  
  Pour illustrer l’évolution de Midjourney, qui est l’un des systèmes d’intelligence artificielle générative les plus évolués en matière d’image, cette mosaïque d'images de Pikachu permet de visualiser d’un coup d’œil presque deux ans d’évolution dans l’IA.
  
  
  
  De nouvelles IA apparaissent, d'autres disparaissent à un rythme rapide. Les plus performantes sont payantes. Beaucoup nécessitent a minima la création d'un compte mais pas toutes. C'est le cas de Craiyon, Stable diffusion ou encore Sdxl qui ne nécessitent aucun compte.
  
  
  
• Comment reconnaitre des images générées par une IA ? Activité

Une galerie d’une vingtaine d’images générées par des IA a été mise à la disposition des élèves sur la plateforme de cours Moodle. Ils doivent les examiner avec attention afin d’identifier le ou les indices permettant de repérer qu’elles ont été créées par une IA. Ces indices doivent ensuite être regroupés en catégories.

Cependant, on sait que les IA génératives d’images sont de plus en plus performantes et qu’à moyen terme, il deviendra de plus en plus complexe de distinguer les images générées par les IA des vraies images. Nous aurons donc toujours besoin de faire appel à notre esprit critique et notre capacité à enquêter. Pour cela, l’identification de la source de l’image et l’examen de son contexte de publication restent des éléments indispensables.

Pour illustrer ce propos, deux activités de vérification d’informations publiées sur les réseaux sociaux sont proposées aux élèves : une vérification d’image à l’aide du moteur d’image inversée Google image, et une recherche avec un moteur « classique ».

Annexes :

Fiche élève n°2 : Les images générées par une IA (utilisée pour les séances 3 & 4)
Fiche élève n°2 corrigée
Dossier compressé avec les images de la séance 3 : Galerie IA

Séance 4

• En s’appuyant sur les activités de la fiche élève, ceux-ci doivent ensuite rédiger au moins 6 conseils pour repérer une image générée par une IA. La mise en commun permet d’aboutir à une trace écrite commune / activité
  
  
• L’activité qui suit part du principe que les élèves, grâce au travail effectué préalablement, maitrisent maintenant tous le sujet de l’identification des images générées par des IA. Ils sont donc suffisamment « outillés » pour évaluer la réponse d’une IA conversationnelle au prompt suivant : "je voudrais des conseils pour identifier une image générée par l’intelligence artificielle".
  
  La classe est divisée en 3 groupes. Il est confié une IA différente à chaque groupe (Perplexity, You.com & Hugging chat). Les élèves interrogent l’IA avait le prompt indiqué et doivent analyser les résultats fournis (réponse complète ? mention de la source ?).
  
  Une activité bonus a été proposée aux élèves volontaires : la création d’une image en utilisant une IA pour illustrer le cours. Les deux images les plus pertinentes ont été ajouté au début du cours sur Moodle.
  
  
  
  
  

Evaluation

L’évaluation sommative a pris la forme d’un test de 10 questions sur Moodle (questions ouvertes et fermées).

Bilan

La thématique a intéressée les élèves qui avaient déjà quelques notions sur l’IA. La plupart avait déjà utilisé le célèbre ChatGPT sans toutefois en connaitre les mécanismes de fonctionnement. Un sondage en ligne auprès d’eux a confirmé qu’ils avaient une connaissance plus précise de l’IA et de son fonctionnement et de l’identification des images qu’elle peut générer à l’issue de ce travail.

L’utilisation de l’outil « Teachable machine » de Google nous a juste posé un souci pour la mise en commun des résultats car même si les élèves avaient la même base de données en entrée, les résultats en sortie, c’est-à-dire les pourcentages d’appartenance à telle ou telle actrice, étaient légèrement différents.

Le travail sur l’utilisation des IA conversationnelles a posé davantage de problèmes. Les élèves ont eu des difficultés pour évaluer la qualité de la réponse proposée et il faudrait les accompagner davantage dans cette activité avec des questions plus précises (la réponse est-elle structurée ? retrouvez-vous les mêmes conseils que ceux que vous aviez identifié ? ...). La question de la source n’est également pas évidente à traiter. La seule mention d’une source satisfait certains élèves, même si la source est en langue anglaise et parfaitement inaccessible en ligne (donc invérifiable).

Par ailleurs, retrouvant cette classe en SNT pour un travail rédactionnel en vue de l’enregistrement d’un podcast, nous nous sommes aperçues que certains élèves avaient utilisé une IA pour rédiger leur podcast. Il nous faudra donc à l’avenir revenir sur les contextes pertinents d’utilisation de l’IA en classe.
Pour nous, la construction de cette séance a été l’occasion de manipuler différentes IA : IA conversationnelles pour les recherches préparatoires et une partie des questions de l’évaluation, IA génératrice d’image pour la galerie de la séance 2. Nous nous sommes rendues compte que l’IA a été utile pour l’élaboration de ce cours et un de nos objectif serait d’apprendre aux élèves à l’utiliser à bon escient également.

Une attention devra aussi être portée à la compatibilté des IA utilisées avec le RGPD.