La génération d’images
ObjectifComprendre comment un modèle fabrique une image à partir d’un bruit.
Déroulé
- 5 min
Accroche
Demander : d’où vient une image produite par une IA à partir d’une phrase ? Est-elle copiée, assemblée à partir de morceaux, dessinée trait par trait ? Noter les hypothèses au tableau.
- 5 min
Image et nombres
Rappeler la séance 2 : pour une machine, une image est un tableau de cases, chacune avec une valeur. Montrer la grille de dix cases sur dix du matériel : une case noire vaut 1, une case blanche vaut 0. Le bruit, c’est une grille où les valeurs sont tirées au hasard.
- 15 min
Remettre les étapes dans l’ordre
Groupes de trois ou quatre. Chaque groupe reçoit les neuf cartes d’images, mélangées. Consigne : elles forment deux suites de cinq images qui commencent par la même image et aboutissent à deux dessins différents. Retrouver les deux suites et les ranger du début à la fin. Rôles : une personne range, une vérifie case par case, une note l’ordre.
- 10 min
Mise en commun
Corriger : la carte B, du pur bruit, ouvre les deux suites ; d’étape en étape, des cases changent jusqu’à la maison ou à l’arbre. Expliquer le principe des modèles de diffusion : pendant l’entraînement, on ajoute du bruit à des images réelles et le modèle apprend à le retirer un peu ; pour générer, on part du bruit et on lui fait retirer un peu de bruit, plusieurs dizaines de fois de suite. La description dit au modèle quoi faire apparaître : même bruit de départ, deux descriptions, deux images.
- 10 min
Origine des images d’entraînement
Faire dire d’où le modèle a appris ce qu’est une maison : de millions d’images légendées, récupérées sur le web. Discuter : les artistes et photographes dont les images ont servi ont-ils donné leur accord ? Une image générée peut-elle imiter un style ? Laisser les questions ouvertes pour la séance 24.
- 5 min
Trace écrite
Projeter la trace écrite, la faire recopier ou distribuer la version imprimée.
- 5 min
Vérification
Lire les quatre questions. Les élèves notent la lettre de leur réponse, puis la correction suit aussitôt.
Savoir professeur
Les connaissances utiles pour faire la séance. Environ dix minutes de lecture.
Place de la séance
Les générateurs d’images comme ceux intégrés aux assistants produisent en quelques secondes une image à partir d’une phrase. Les élèves imaginent souvent un collage de morceaux d’images trouvées sur le web, ou un dessin trait par trait. Le mécanisme réel est différent, et la séance le montre.
Image et nombres
Comme à la séance 2, une image est pour la machine un tableau de cases, chacune avec une valeur : ici 1 pour noir, 0 pour blanc ; dans une vraie photo, trois nombres par point, pour le rouge, le vert et le bleu. Un bruit est un tableau dont les valeurs sont tirées au hasard, comme la neige d’un ancien téléviseur.
Principe des modèles de diffusion
La plupart des générateurs actuels sont des modèles de diffusion, décrits en 2020 et devenus d’usage courant en 2022.
L’entraînement. On prend des millions d’images accompagnées d’une légende. À chacune, on ajoute un peu de bruit, puis un peu plus, jusqu’à ce qu’elle soit méconnaissable. Le modèle apprend la tâche inverse : à partir d’une image un peu bruitée et de sa légende, deviner le bruit à retirer pour revenir à l’étape précédente. Il fabrique ainsi ses propres exercices, en abîmant des images connues pour apprendre à les réparer.
La génération. On part d’un bruit pur, tiré au hasard. On demande au modèle de retirer un peu de bruit, en direction de ce que décrit la phrase. On recommence, souvent plusieurs dizaines de fois. Peu à peu, une image nette apparaît. Comme le bruit de départ change à chaque fois, deux générations avec la même description donnent deux images différentes.
Lecture des cartes
Les neuf cartes sont deux suites de cinq images de dix cases sur dix, qui partagent la même première image, un bruit pur, la carte B. L’une aboutit à une maison, la carte F ; l’autre à un arbre, la carte E. D’une étape à l’autre, seule une partie des cases change. L’ordre est donné au corrigé : pour la maison, B, D, H, A, F ; pour l’arbre, B, G, C, I, E.
Les cartes ont été fabriquées par une méthode plus simple qu’un vrai modèle : à chaque étape, une partie des cases du bruit est remplacée par les cases du dessin final. Elles montrent fidèlement trois idées : on part du bruit, on avance par petites étapes, et la description, maison ou arbre, décide de ce qui apparaît à partir du même départ. En revanche, elles ne montrent pas un point important : un vrai modèle invente l’image finale, qui n’existe nulle part avant la génération.
Données et droits
Pour savoir ce qu’est une maison, le modèle a vu des millions d’images de maisons, légendées. Ces images ont été en grande partie récupérées sur le web, souvent sans l’accord de leurs auteurs. Plusieurs artistes et agences photographiques ont engagé des procès, et le modèle peut imiter le style d’un artiste vivant. Le règlement européen sur l’IA impose désormais aux fournisseurs de modèles de publier un résumé des données d’entraînement et de respecter le droit d’auteur. La séance 24 développera ces questions ; ici, il suffit de les poser.
Conduite de l’activité
La comparaison case par case prend du temps : les groupes rapides trouvent d’abord les deux images finales, puis remontent vers le bruit. Pendant la mise en commun, projeter ou dessiner les deux suites côte à côte. L’idée la plus importante à faire formuler est la suivante : à partir du même bruit, deux descriptions donnent deux images différentes.
Son et vidéo
La diffusion ne sert pas qu’aux images. Les générateurs de vidéos appliquent le même principe à une suite d’images, en veillant à ce qu’elles s’enchaînent, et certains générateurs de musique ou de voix procèdent de façon voisine. La séance 19 montrera ce que permettent ces outils quand ils imitent une personne réelle, et la séance 20, comment s’en protéger.
Vocabulaire et erreurs fréquentes
Employer : image générée, bruit, modèle de diffusion, description, étape. Le terme anglais prompt désigne la description.
Deux idées reçues reviennent. « L’IA colle des morceaux d’images » : elle a appris des régularités. « Une image générée est forcément ratée, on la reconnaît » : les défauts visibles ont beaucoup diminué, comme le verra la séance 20.
Version avec ordinateurs
- Le rangement des cartes se fait sur papier.
- Pendant la mise en commun, le professeur projette depuis son poste un générateur d’images mis à disposition par l’établissement, ou une vidéo publique montrant les étapes successives d’une génération, du bruit à l’image.
- S’il dispose d’un générateur, il fait produire deux images avec la même description et montre qu’elles diffèrent : le bruit de départ change à chaque fois.
- Les élèves n’utilisent aucun générateur sur leur poste et ne créent aucun compte.
Version sans ordinateur
Le déroulé ordinaire se fait déjà sans ordinateur.
Matériel
- Les neuf cartes d’images, une planche par groupe, découpées et mélangées.
Consignes
- Donner un indice si un groupe bloque : chercher d’abord la carte qui ressemble le moins à un dessin.
- Faire remarquer que, d’une étape à l’autre, seules quelques cases changent : le modèle retire le bruit petit à petit, il ne dessine pas d’un coup.
- Pour la discussion sur les artistes, ne pas trancher : la question juridique est en débat devant les tribunaux, et la séance 24 y reviendra.
Corrigé des cartes
- Image A Suite de la maison, étape 4 sur 5.
- Image B Étape 1 des deux suites : le bruit de départ.
- Image C Suite de l’arbre, étape 3 sur 5.
- Image D Suite de la maison, étape 2 sur 5.
- Image E Suite de l’arbre, étape 5 sur 5 : l’arbre.
- Image F Suite de la maison, étape 5 sur 5 : la maison.
- Image G Suite de l’arbre, étape 2 sur 5.
- Image H Suite de la maison, étape 3 sur 5.
- Image I Suite de l’arbre, étape 4 sur 5.
Trace écrite
Pour une machine, une image est un tableau de nombres. Les modèles de diffusion génèrent une image en partant d’un bruit, des valeurs tirées au hasard, qu’ils retirent pas à pas jusqu’à obtenir une image nette.
Ils l’ont appris en observant des millions d’images légendées auxquelles on ajoutait du bruit : ils savent retirer un peu de bruit en direction de ce que décrit la légende. La description guide donc chaque étape.
Une image générée n’est pas copiée, mais elle dépend entièrement des images d’entraînement, ce qui pose des questions de consentement et de droit d’auteur.
Vérification
À projeter ou à lire en fin de séance. La réponse s’affiche en cliquant sur « Réponse ».
-
Par quoi commence la génération d’une image par un modèle de diffusion ?
- APar une image copiée sur le web.
- BPar un bruit, une grille de valeurs tirées au hasard.
- CPar un dessin au trait.
Réponse
B. Le modèle part du bruit et le retire petit à petit. Comme le bruit change à chaque génération, deux images obtenues avec la même description diffèrent.
-
Comment le modèle a-t-il appris à retirer le bruit ?
- AEn ajoutant du bruit à des millions d’images réelles légendées, et en apprenant à le retirer.
- BUn humain lui a expliqué chaque dessin.
- CIl a appris à dessiner comme un artiste, au crayon.
Réponse
A. L’entraînement fabrique ses propres exemples : on abîme des images connues, et le modèle apprend à les réparer, une petite étape à la fois.
-
À quoi sert la description donnée au modèle ?
- AÀ rien, elle est décorative.
- BÀ guider chaque étape, pour que le bruit retiré fasse apparaître ce qui est décrit.
- CÀ rechercher une photo existante.
Réponse
B. Les deux suites des cartes partent du même bruit et aboutissent à deux images différentes : c’est la description qui fait la différence.
-
Pourquoi les images générées posent-elles des questions aux artistes ?
- AParce que les modèles ont appris à partir de leurs œuvres, souvent sans leur accord, et peuvent imiter leur style.
- BParce qu’elles sont toujours de mauvaise qualité.
- CParce qu’elles sont interdites en France.
Réponse
A. Les images d’entraînement ont souvent été récupérées sur le web sans autorisation. Plusieurs procès sont en cours ; le règlement européen impose désormais de publier un résumé des données utilisées.
Questions difficiles
Questions d’élèves embarrassantes, avec une réponse possible.
L’IA colle des morceaux d’images existantes ?
Non, elle ne garde pas les images d’entraînement en mémoire pour les découper. Elle a appris des régularités, des formes, des textures, des styles. Mais il lui arrive de reproduire presque à l’identique une image très présente dans ses données, ce que des chercheurs ont montré.
Pourquoi les mains et les textes sont-ils souvent ratés ?
Parce que le modèle reproduit des régularités sans comprendre la structure des objets : une main a cinq doigts, un mot s’écrit avec des lettres précises. Ces défauts ont beaucoup diminué dans les modèles récents ; ce n’est plus un indice fiable pour repérer une image générée, comme le verra la séance 20.
Une image générée appartient à qui ?
La question est débattue. En France, le droit d’auteur protège une œuvre qui porte l’empreinte de la personnalité d’un auteur humain ; une image produite par une simple demande en est loin. Les conditions d’utilisation des services fixent aussi des règles. La séance 24 y reviendra.
On peut générer l’image de n’importe qui ?
Techniquement, souvent. Mais diffuser l’image truquée d’une personne sans son consentement est puni par la loi, plus sévèrement encore quand elle est à caractère sexuel. La séance 19 traite de ces hypertrucages.