L’heure de l’IA
Progression
Séance 22 · Partie 5. Biais, données personnelles, souveraineté · 55 minutes

Les données personnelles

ObjectifSavoir ce que deviennent les informations confiées à un assistant, et ce qu’il ne faut jamais lui confier.

Imprimer le matériel

Déroulé

  1. 5 min

    Accroche

    Demander : quand on écrit à un assistant, qui peut lire la conversation ? Où va-t-elle ? Combien de temps est-elle gardée ? Noter les réponses au tableau, souvent très variées.

  2. 8 min

    Trajet des conversations

    Expliquer au tableau le trajet d’une conversation : elle part vers les serveurs de l’entreprise, y est enregistrée, peut être relue par des personnes chargées de la qualité, et peut servir à entraîner les modèles suivants, sauf si l’on a désactivé ce réglage. Ce qui a servi à l’entraînement ne peut pas être retiré du modèle.

  3. 15 min

    Vert, orange, rouge

    Groupes de trois ou quatre. Chaque groupe range les douze cartes en trois tas : vert, on peut le confier ; orange, seulement en retirant ce qui identifie ; rouge, jamais. Pour chaque carte, il note la raison. Rôles : une personne lit, une range, une note.

  4. 10 min

    Mise en commun

    Carte par carte, relever les choix. Faire ressortir trois idées. Les données des autres ne nous appartiennent pas : le message d’un ami, une capture d’écran de groupe. Certaines données sont sensibles par nature : santé, identité, mots de passe. Et une donnée anodine peut devenir identifiante quand on l’associe à d’autres : le lycée, la classe, le prénom.

  5. 7 min

    Les réglages et les droits

    Montrer, sur le poste du professeur ou au tableau, les réglages que proposent les principaux assistants : désactiver l’usage des conversations pour l’entraînement, effacer l’historique, désactiver la mémoire. Rappeler les droits du règlement européen sur la protection des données : accès, rectification, effacement, et la possibilité de saisir la CNIL. Citer le cas italien de 2023 : l’autorité de protection des données a bloqué un assistant pendant un mois.

  6. 5 min

    Trace écrite

    Projeter la trace écrite, la faire recopier ou distribuer la version imprimée.

  7. 5 min

    Vérification

    Lire les quatre questions. Les élèves notent la lettre de leur réponse, puis la correction suit aussitôt.

Savoir professeur

Les connaissances utiles pour faire la séance. Environ dix minutes de lecture.

Devenir des conversations

Pour beaucoup d’élèves, une conversation avec un assistant ressemble à une discussion privée. Ce n’est pas le cas. Le texte part sur les serveurs de l’entreprise, souvent hors d’Europe, où il est traité et conservé pendant une durée fixée dans les conditions d’utilisation. Une partie des conversations peut être relue par des personnes, chargées d’évaluer la qualité ou de repérer les abus. Et, sauf réglage contraire, elles peuvent servir à entraîner les modèles suivants. Or ce qui a servi à l’entraînement ne peut pas être retiré : un modèle n’est pas une base de données où l’on efface une ligne, et il peut, dans de rares cas, restituer des passages de ses données.

Les assistants récents ajoutent une mémoire : ils retiennent des informations d’une conversation à l’autre pour personnaliser leurs réponses. C’est pratique, mais cela accumule des données sur l’utilisateur.

Informations à ne jamais confier

Le tri des douze cartes fait apparaître trois catégories de données à protéger.

  • Ce qui identifie : nom, adresse, photo du visage, document d’identité. Une donnée isolée peut sembler banale, mais l’association de plusieurs, comme le lycée, la classe et le prénom, suffit à désigner une personne. C’est la notion de donnée indirectement identifiante du droit européen.
  • Ce qui est sensible : santé, mots de passe, et plus largement les catégories que le règlement protège particulièrement, comme les opinions ou l’orientation sexuelle.
  • Les données des autres : le message d’un ami, une conversation de groupe. On n’a pas le droit d’en disposer sans leur accord. C’est la notion la plus souvent oubliée par les élèves, et la plus importante pour la vie de la classe.

La catégorie orange est la plus utile : la plupart des demandes deviennent acceptables si l’on retire ce qui identifie. « Je suis en seconde » suffit à obtenir un conseil adapté.

Informations devinées par un modèle

Les données confiées ne sont pas seulement celles qu’on écrit. Des chercheurs ont montré en 2023 que de grands modèles devinaient souvent, à partir de quelques messages ordinaires publiés en ligne, la ville, l’âge ou le métier de leur auteur, à partir d’indices comme une expression régionale ou une allusion à un trajet. Un assistant peut donc en savoir plus que ce qu’on lui a dit explicitement. C’est une raison de plus pour lui en dire le moins possible sur soi, même sans donner son nom.

Réglages et droits

Les principaux assistants proposent des réglages : désactiver l’utilisation des conversations pour l’entraînement, effacer l’historique, désactiver la mémoire, ou utiliser une conversation temporaire. Ils évoluent souvent et leur emplacement change ; mieux vaut apprendre aux élèves à les chercher qu’à retenir un chemin précis.

Le règlement général sur la protection des données, applicable depuis 2018, donne à chacun des droits : savoir quelles données une entreprise détient sur soi, les faire corriger ou effacer, s’opposer à certains usages. En France, la CNIL veille à son application et peut être saisie. Les autorités européennes l’appliquent aux assistants : en mars 2023, l’autorité italienne a bloqué ChatGPT pendant un mois, faute de base légale suffisante et de vérification de l’âge ; une amende de 15 millions d’euros a suivi en 2024.

Les âges minimaux comptent aussi : la plupart des assistants exigent au moins treize ans, et l’accord des parents avant dix-huit ans ; certains exigent dix-huit ans. C’est l’une des raisons pour lesquelles aucune activité de ce site n’exige que les élèves créent un compte.

Conduite de l’activité

Laisser les groupes débattre entre orange et rouge : la raison importe plus que la couleur. Pendant la mise en commun, revenir sur les cartes vertes : elles montrent qu’on peut obtenir beaucoup d’aide d’un assistant sans rien dire de soi. Terminer en faisant formuler la règle d’or : ne confier que ce qui est nécessaire, et rien qui identifie inutilement.

Vocabulaire et erreurs fréquentes

Employer : donnée personnelle, donnée sensible, identifiant, conservation, RGPD, CNIL.

Trois idées reçues reviennent. « C’est privé, comme un message » : la conversation est traitée et conservée par une entreprise. « Si je supprime, c’est effacé partout » : pas ce qui a servi à l’entraînement. « Seul mon nom compte » : une association d’informations banales identifie aussi.

Version avec ordinateurs

  1. Le tri des cartes se fait sur papier.
  2. Pour l’étape « Les réglages et les droits », le professeur ouvre depuis son poste, sur un compte de démonstration, les paramètres d’un ou deux assistants, et montre où se trouvent les réglages de confidentialité. Les élèves ne se connectent à aucun compte.
  3. Les binômes peuvent ensuite lire, sur le site de la CNIL, la page consacrée à l’intelligence artificielle, et noter un conseil qui ne figure pas dans la trace écrite.

Version sans ordinateur

Le déroulé ordinaire se fait déjà sans ordinateur. Les réglages se décrivent au tableau.

Matériel

  • Les douze cartes, une planche par groupe, découpées.
  • Une feuille par groupe partagée en trois colonnes : vert, orange, rouge.

Consignes

  1. Accepter les désaccords entre orange et rouge : ce qui compte est la raison donnée.
  2. Insister sur les données des autres : c’est la notion la plus souvent oubliée.
  3. Rappeler les âges minimaux : la plupart des assistants exigent au moins treize ans et l’accord des parents avant dix-huit ans ; certains exigent dix-huit ans.

Imprimer les douze cartes

Corrigé des cartes

  • Une recette de cuisine Vert : aucune information personnelle.
  • Une question de maths Vert : aucune information personnelle.
  • Le texte du cours Vert, en général : un cours ne contient pas de données personnelles. Vérifier qu’il n’y a ni nom ni annotation privée.
  • Ma rédaction Orange : retirer son nom et tout détail qui identifie, comme l’établissement ou des noms de proches.
  • Mon lycée et ma classe Orange ou rouge : réunies, ces informations permettent de m’identifier. Dire « en seconde » suffit.
  • Mes symptômes Rouge : les données de santé sont sensibles. Pour une question de santé, voir un professionnel ; si l’on pose une question générale, ne jamais s’identifier.
  • Ma carte d’identité Rouge : un document d’identité permet l’usurpation d’identité.
  • Mon mot de passe Rouge, toujours : un mot de passe ne se confie à personne. Demander plutôt les règles d’un bon mot de passe.
  • Mon adresse Orange ou rouge : utiliser plutôt une application de cartes, ou indiquer un lieu public proche.
  • Le message d’un ami Rouge : ce sont les données d’une autre personne, qui n’a pas donné son accord. Résumer la situation sans le nommer.
  • La conversation de groupe Rouge : elle contient les noms et les messages de nombreuses personnes qui n’ont rien accepté.
  • Une photo de moi Rouge, ou orange avec beaucoup de prudence : un visage est une donnée qui identifie, et la photo peut être conservée.

Trace écrite

Ce qu’on écrit à un assistant part sur les serveurs de l’entreprise, y est conservé, peut être relu par des personnes et servir à entraîner les modèles suivants. Ce qui a servi à l’entraînement ne peut pas en être retiré.

On ne confie jamais à un assistant ce qui identifie ou ce qui est sensible : nom, adresse, documents d’identité, mots de passe, santé, ni les données des autres. Une information anodine peut devenir identifiante quand on l’associe à d’autres.

On peut désactiver l’usage de ses conversations pour l’entraînement et effacer son historique. Le règlement européen sur la protection des données donne des droits d’accès et d’effacement, et la CNIL peut être saisie.

Vérification

À projeter ou à lire en fin de séance. La réponse s’affiche en cliquant sur « Réponse ».

  1. Que peut-il advenir d’une conversation avec un assistant ?

    • AElle disparaît dès qu’on ferme la page.
    • BElle peut être conservée, relue par des personnes et servir à entraîner les modèles suivants.
    • CElle reste uniquement sur mon téléphone.
    Réponse

    B. Les conversations sont traitées sur les serveurs de l’entreprise. Selon les réglages, elles peuvent être gardées et utilisées pour améliorer les modèles.

  2. Pourquoi ne faut-il pas coller le message d’un ami dans un assistant ?

    • AParce que l’assistant ne le comprendrait pas.
    • BParce que ce sont les données d’une autre personne, qui n’a pas donné son accord.
    • CParce que c’est trop long.
    Réponse

    B. On ne dispose pas librement des informations des autres. On peut décrire la situation sans nommer personne.

  3. « Je suis en seconde B au lycée Victor-Hugo, je m’appelle Léa. » Quel est le problème ?

    • AAucun, ce sont des informations banales.
    • BRéunies, ces informations permettent d’identifier la personne.
    • CL’assistant ne connaît pas ce lycée.
    Réponse

    B. Chaque information paraît anodine, mais leur association désigne une personne précise. « En seconde » suffit pour un conseil adapté.

  4. Quel réglage protège le mieux ses conversations ?

    • AChanger la couleur de l’interface.
    • BDésactiver l’utilisation des conversations pour l’entraînement et effacer l’historique.
    • CÉcrire en majuscules.
    Réponse

    B. La plupart des assistants proposent ces réglages. Ils ne remplacent pas la règle d’or : ne rien confier de personnel.

Questions difficiles

Questions d’élèves embarrassantes, avec une réponse possible.

Si je supprime ma conversation, elle est effacée de l’IA ?

Elle est retirée de l’historique, et l’entreprise doit l’effacer de ses serveurs après un délai fixé dans ses conditions. Mais si elle a déjà servi à entraîner un modèle, elle ne peut pas en être retirée : le modèle n’est pas une base de données où l’on supprime une ligne.

Un assistant peut-il deviner des choses sur moi que je n’ai pas dites ?

Oui. À partir de la façon d’écrire, des sujets abordés ou des fautes, des chercheurs ont montré que des modèles devinent souvent l’âge, la région ou d’autres caractéristiques. Et les assistants dotés d’une mémoire retiennent ce qu’on leur a dit d’une conversation à l’autre.

Pourquoi l’Italie a-t-elle bloqué ChatGPT ?

En 2023, l’autorité italienne de protection des données a jugé que l’entreprise collectait des données sans base légale suffisante et ne vérifiait pas l’âge des utilisateurs. Le service a été suspendu un mois, puis rétabli après des changements ; une amende de 15 millions d’euros a suivi en 2024.

Et les outils proposés par le lycée ?

Ils peuvent offrir de meilleures garanties, par exemple des données hébergées en Europe et non utilisées pour l’entraînement, selon le contrat signé. La règle reste la même : ne confier que ce qui est nécessaire, et rien qui identifie inutilement.

Différencier