Le tribunal de la classe
Huit cartes, à imprimer en un exemplaire par groupe puis à découper. Une page A4 en contient huit. Le dossier documentaire suit, sur une page à part.
Pour chaque cas : quelle règle s’applique ? Verdict : autorisé, autorisé sous conditions, ou interdit. Justifier en une phrase.
- 1
Le dossier du patient
Un médecin colle le dossier complet d’un patient, avec son nom, dans un assistant grand public pour en obtenir un résumé.
- 2
Le code de l’entreprise
Un ingénieur colle le code informatique confidentiel de son entreprise dans un assistant public pour y chercher une erreur. En 2023, des cas semblables chez Samsung ont conduit l’entreprise à restreindre ces outils.
- 3
Le document classifié
Un militaire demande à un assistant public de résumer un document classé secret défense.
- 4
Le livre illustré
Une élève publie en ligne un livre de contes illustré avec des images produites par un générateur. Elle veut interdire à quiconque de les copier.
- 5
L’entraînement sur des œuvres
Une entreprise entraîne un générateur d’images sur des millions d’illustrations trouvées en ligne, dont celles d’artistes qui avaient indiqué refuser cet usage.
- 6
Le tri des candidatures
Une entreprise utilise un système d’IA pour trier automatiquement les CV et écarter une partie des candidats.
- 7
Les émotions en classe
Un établissement installe des caméras qui analysent le visage des élèves pour mesurer leur attention et leurs émotions pendant les cours.
- 8
L’assistant qui ne dit pas son nom
Un site de vente propose une conversation avec « Julie, conseillère », sans préciser qu’il s’agit d’une machine.
Dossier documentaire
Fiche des règles
1. Règlement général sur la protection des données (2016, applicable depuis 2018) : traiter des données personnelles exige une base légale et une information des personnes ; les données de santé sont particulièrement protégées. 2. Secrets protégés : secret médical, secret professionnel, secret des affaires, secret de la défense nationale ; les divulguer est sanctionné. 3. Droit d’auteur : il protège les créations qui portent l’empreinte de la personnalité d’un auteur humain ; les œuvres peuvent servir à l’entraînement sauf si leur auteur s’y est opposé. 4. Règlement européen sur l’IA (2024) : certains usages sont interdits, comme la notation sociale ou la reconnaissance des émotions à l’école et au travail ; les systèmes à haut risque, comme le tri des candidatures, sont soumis à des obligations ; il faut signaler qu’on parle à une machine et que certains contenus sont générés.