L’heure de l’IA
Progression
Séance 24 · Partie 5. Biais, données personnelles, souveraineté · 55 minutes

Le droit

ObjectifConnaître les principales règles de droit qui encadrent l’usage de l’IA.

Imprimer le matériel

Déroulé

  1. 5 min

    Accroche

    Demander : un médecin a-t-il le droit de coller le dossier d’un patient dans un assistant pour en obtenir un résumé ? Faire voter, puis demander quelle règle le permettrait ou l’interdirait. Annoncer que plusieurs lois répondent, et que la classe va jouer le rôle d’un tribunal.

  2. 8 min

    Quatre familles de règles

    Présenter au tableau les quatre familles, une phrase chacune. La protection des données personnelles, avec le règlement général de 2016. Les secrets protégés : médical, professionnel, des affaires, de la défense nationale. Le droit d’auteur. Le règlement européen sur l’IA de 2024, qui classe les usages selon leur risque.

  3. 17 min

    Le tribunal de la classe

    Groupes de trois ou quatre, deux cartes par groupe. Pour chaque cas, le groupe désigne la ou les règles concernées, puis rend son verdict : autorisé, autorisé sous conditions, ou interdit, avec une phrase de justification. Rôles : une personne lit le cas, une cherche la règle dans la fiche, une rédige le verdict.

  4. 12 min

    Les verdicts

    Chaque groupe présente un verdict ; la classe le discute ; le professeur complète avec le corrigé. Faire remarquer qu’une même situation relève souvent de plusieurs règles, et que le règlement européen interdit certains usages quelle que soit la technique, comme la reconnaissance des émotions des élèves.

  5. 3 min

    Le calendrier

    Indiquer que le règlement européen s’applique par étapes : les interdictions depuis février 2025, les obligations des grands modèles depuis août 2025, les règles de transparence depuis août 2026. Les obligations des systèmes à haut risque, d’abord prévues pour août 2026, ont été repoussées par un règlement de juillet 2026 au 2 décembre 2027.

  6. 5 min

    Trace écrite

    Projeter la trace écrite, la faire recopier ou distribuer la version imprimée.

  7. 5 min

    Vérification

    Lire les quatre questions. Les élèves notent la lettre de leur réponse, puis la correction suit aussitôt.

Savoir professeur

Les connaissances utiles pour faire la séance. Environ dix minutes de lecture.

Place de la séance

Les séances précédentes ont rencontré plusieurs questions juridiques sans les traiter : les conversations conservées, les images d’artistes utilisées pour l’entraînement, les hypertrucages. Celle-ci les rassemble. Elle ne forme pas des juristes ; elle apprend aux élèves à reconnaître les situations qui posent une question de droit et les familles de règles qui y répondent.

Quatre familles de règles

La protection des données personnelles. Le règlement général sur la protection des données, adopté en 2016 et applicable depuis 2018, impose qu’un traitement de données ait une base légale, soit limité au nécessaire et que les personnes soient informées. Les données de santé, les opinions ou l’orientation sexuelle sont particulièrement protégées. La séance 22 l’a détaillé.

Les secrets protégés. Le secret médical, le secret professionnel des avocats ou des notaires, le secret des affaires et le secret de la défense nationale interdisent de divulguer certaines informations. Les coller dans un assistant public revient à les envoyer à une entreprise extérieure, donc à les divulguer. En 2023, après que des ingénieurs eurent collé du code confidentiel dans un assistant, Samsung a restreint l’usage de ces outils par ses salariés.

Le droit d’auteur. Il protège les créations qui portent l’empreinte de la personnalité d’un auteur humain. Deux questions se posent. Les images ou textes produits par une simple demande ont peu de chances d’être protégés, faute d’apport créatif humain suffisant ; un travail créatif important sur le résultat peut changer la réponse. Et l’utilisation d’œuvres pour entraîner un modèle est permise en Europe par une exception de fouille de textes et de données, sauf si l’auteur s’y est opposé. De nombreux procès sont en cours dans le monde.

Le règlement européen sur l’IA. Adopté en 2024, il classe les usages selon leur risque :

  • interdits : la notation sociale, la manipulation qui exploite les vulnérabilités, la reconnaissance des émotions dans les établissements d’enseignement et sur le lieu de travail, sauf raisons médicales ou de sécurité ;
  • à haut risque, soumis à des obligations d’évaluation, de qualité des données, de contrôle humain et d’information : l’emploi, l’éducation, l’accès aux services essentiels, la justice ;
  • soumis à transparence : signaler qu’on parle à une machine, signaler les hypertrucages et certains contenus générés ;
  • les fournisseurs de grands modèles doivent notamment publier un résumé des données d’entraînement et respecter le droit d’auteur.

Il s’applique par étapes : interdictions depuis le 2 février 2025, obligations des grands modèles depuis le 2 août 2025, règles de transparence depuis le 2 août 2026. Les obligations des systèmes à haut risque, d’abord prévues pour août 2026, ont été repoussées par le règlement (UE) 2026/1744 du 24 juillet 2026 : au 2 décembre 2027 pour les domaines sensibles comme l’emploi ou l’éducation, au 2 août 2028 pour les systèmes intégrés à des produits. Les sanctions peuvent atteindre 35 millions d’euros ou 7 % du chiffre d’affaires mondial.

Huit cas

Les cartes couvrent les quatre familles. Les verdicts du corrigé sont volontairement simplifiés : ils indiquent la règle principale et la conclusion la plus probable. Plusieurs cas relèvent de deux règles à la fois, comme le dossier du patient, couvert par le secret médical et par la protection des données de santé. Le cas du livre illustré est le plus discuté : l’élève peut publier son livre, ses textes sont protégés, mais ses images générées probablement pas.

Conduite de l’activité

Le vocabulaire juridique peut intimider : rassurer les élèves en rappelant que chaque règle de la fiche tient en une phrase, et qu’on attend d’eux le bon réflexe, pas une analyse de juriste. Pendant les verdicts, demander systématiquement « qui serait responsable ? » : la réponse est toujours une personne ou une organisation. Le cas des émotions en classe touche directement les élèves et suscite souvent l’indignation ; c’est l’occasion de montrer qu’une règle peut interdire un usage même quand la technique le permet.

Points essentiels

Deux idées suffisent. Utiliser un outil d’IA ne dispense d’aucune règle : ce qui est interdit sans IA reste interdit avec. Et la responsabilité est toujours humaine : celle de l’entreprise qui fournit le système, de celle qui l’utilise, ou de l’utilisateur.

Vocabulaire et erreurs fréquentes

Employer : données personnelles, secret professionnel, droit d’auteur, système à haut risque, pratique interdite, obligation de transparence.

Deux idées reçues reviennent. « Une machine n’est pas soumise à la loi » : les personnes qui la fournissent et l’utilisent le sont. « Tout ce qui est en ligne est libre de droits » : non, et les auteurs peuvent s’opposer à l’entraînement sur leurs œuvres.

Version avec ordinateurs

  1. Le travail sur les cas se fait sur cartes et avec la fiche des règles.
  2. Avec ordinateurs, les groupes peuvent vérifier leurs verdicts sur des sources officielles indiquées par le professeur : le site de la CNIL, la page de la Commission européenne consacrée au règlement sur l’IA.
  3. Exiger pour chaque verdict la phrase de la source qui le justifie.

Version sans ordinateur

Le déroulé ordinaire se fait déjà sans ordinateur.

Matériel

  • Les huit cartes de cas, une planche pour quatre groupes, découpées.
  • La fiche des règles, une par groupe.

Consignes

  1. Prévenir que les verdicts simplifiés de la séance ne remplacent pas l’avis d’un juriste : le but est de savoir quelles questions se poser.
  2. Accepter les verdicts nuancés, « autorisé sous conditions », à condition que les conditions soient dites.
  3. Pour le cas du livre illustré, distinguer deux questions : le droit sur les images produites, et le droit des auteurs dont les œuvres ont servi à l’entraînement.
Dossier documentaire (une fiches)

Fiche des règles

1. Règlement général sur la protection des données (2016, applicable depuis 2018) : traiter des données personnelles exige une base légale et une information des personnes ; les données de santé sont particulièrement protégées. 2. Secrets protégés : secret médical, secret professionnel, secret des affaires, secret de la défense nationale ; les divulguer est sanctionné. 3. Droit d’auteur : il protège les créations qui portent l’empreinte de la personnalité d’un auteur humain ; les œuvres peuvent servir à l’entraînement sauf si leur auteur s’y est opposé. 4. Règlement européen sur l’IA (2024) : certains usages sont interdits, comme la notation sociale ou la reconnaissance des émotions à l’école et au travail ; les systèmes à haut risque, comme le tri des candidatures, sont soumis à des obligations ; il faut signaler qu’on parle à une machine et que certains contenus sont générés.

Imprimer les huit cartes

Corrigé des cartes

  • Le dossier du patient Interdit en l’état : secret médical et données de santé, protégées par le règlement de 2016. Possible seulement avec un outil conforme, prévu pour les données de santé, et dans les conditions fixées par la loi.
  • Le code de l’entreprise Interdit sans autorisation de l’employeur : secret des affaires et obligation de confidentialité. Les entreprises fixent des règles et proposent souvent des outils internes.
  • Le document classifié Interdit : la compromission du secret de la défense nationale est un délit. Le document sort de tout cadre protégé dès qu’il est envoyé à un service extérieur.
  • Le livre illustré Publier le livre est autorisé, dans le respect des conditions du service utilisé. Mais en France, une image produite par une simple demande, sans apport créatif humain, a peu de chances d’être protégée par le droit d’auteur. Ses textes, eux, le sont.
  • L’entraînement sur des œuvres Interdit pour les œuvres dont les auteurs se sont opposés : le droit européen permet la fouille de textes et de données, sauf refus exprimé. Le règlement sur l’IA impose de respecter ce refus et de publier un résumé des données d’entraînement.
  • Le tri des candidatures Autorisé sous conditions : c’est un système à haut risque. À partir de décembre 2027, il faudra évaluer ses risques, contrôler la qualité des données, garantir un contrôle humain et informer les candidats ; le droit du travail et la protection des données s’appliquent déjà.
  • Les émotions en classe Interdit : le règlement européen interdit, depuis février 2025, les systèmes qui déduisent les émotions des personnes dans les établissements d’enseignement et sur le lieu de travail, sauf raisons médicales ou de sécurité.
  • L’assistant qui ne dit pas son nom Interdit à partir de l’application des règles de transparence, en août 2026 : il faut informer les personnes qu’elles échangent avec un système d’IA, sauf si c’est évident.

Trace écrite

Plusieurs règles encadrent l’IA : la protection des données personnelles, les secrets protégés (médical, professionnel, des affaires, de la défense), le droit d’auteur, et le règlement européen sur l’IA de 2024.

Le règlement européen classe les usages selon leur risque : certains sont interdits, comme la notation sociale ou la reconnaissance des émotions à l’école ; d’autres, à haut risque, comme le tri des candidatures, sont soumis à des obligations ; d’autres imposent de la transparence.

Utiliser un outil d’IA ne dispense d’aucune règle : un secret confié à un assistant public est un secret divulgué.

Vérification

À projeter ou à lire en fin de séance. La réponse s’affiche en cliquant sur « Réponse ».

  1. Pourquoi un médecin ne peut-il pas coller le dossier d’un patient dans un assistant grand public ?

    • AParce que l’assistant ne comprend pas le vocabulaire médical.
    • BParce que le secret médical et la protection des données de santé l’interdisent.
    • CParce que c’est trop long.
    Réponse

    B. Envoyer le dossier à un service extérieur, c’est divulguer des données de santé couvertes par le secret. Seuls des outils conformes, dans un cadre prévu par la loi, le permettent.

  2. Que dit le règlement européen sur la reconnaissance des émotions des élèves en classe ?

    • AElle est autorisée si l’établissement le décide.
    • BElle est interdite, sauf raisons médicales ou de sécurité.
    • CLe règlement n’en parle pas.
    Réponse

    B. Depuis février 2025, ces systèmes sont interdits dans les établissements d’enseignement et sur le lieu de travail.

  3. Une image produite par une simple demande à un générateur est-elle protégée par le droit d’auteur en France ?

    • AOui, toujours.
    • BEn général non, faute d’apport créatif humain suffisant.
    • COui, au nom de l’entreprise qui fournit le générateur.
    Réponse

    B. Le droit d’auteur protège l’empreinte de la personnalité d’un auteur humain. Une demande simple ne suffit pas, d’après l’état actuel du droit ; un travail créatif important sur l’image peut changer la réponse.

  4. Un système qui trie les CV relève de quelle catégorie du règlement européen ?

    • AInterdit.
    • BÀ haut risque, soumis à des obligations.
    • CSans aucune règle.
    Réponse

    B. Les systèmes utilisés pour l’emploi sont à haut risque : évaluation des risques, qualité des données, contrôle humain et information des candidats, obligatoires à partir de décembre 2027.

Questions difficiles

Questions d’élèves embarrassantes, avec une réponse possible.

Si l’entreprise de l’assistant est américaine, le droit européen s’applique ?

Oui, dès qu’elle propose ses services à des personnes en Europe. C’est le cas du règlement de 2016 comme du règlement sur l’IA. L’autorité italienne l’a appliqué en 2023. Mais faire respecter le droit à une entreprise étrangère reste plus difficile, ce que la séance 26 abordera.

Qui est responsable si une IA cause un dommage ?

Toujours des personnes : l’entreprise qui fournit le système, celle qui l’utilise, ou l’utilisateur, selon les cas. Une machine n’a pas de personnalité juridique. En 2024, au Canada, une compagnie aérienne a été jugée responsable des informations fausses données par son assistant, comme l’a montré la séance 16.

J’utilise une IA pour un devoir, c’est illégal ?

Non, ce n’est pas une question de loi, mais de règles fixées par le professeur et l’établissement. Présenter comme sien un travail produit par une machine peut en revanche être sanctionné comme une fraude dans le cadre scolaire ou aux examens. La charte de la classe, à la séance 33, fixera ces règles.

Pourquoi l’Europe fait-elle des règles alors que les autres pays avancent ?

C’est un débat. Les uns estiment que les règles protègent les droits et créent la confiance ; les autres craignent qu’elles freinent les entreprises européennes. D’autres pays adoptent aussi des règles, différentes. Le débat est légitime, et il revient à la séance 26.

Différencier