La reconnaissance faciale

Savoir professeur

Les connaissances utiles pour faire la séance. Environ dix minutes de lecture.

Place de la séance

La séance 21 a montré que les systèmes de reconnaissance des visages se trompent davantage sur certaines personnes. La séance 22 a présenté les données personnelles. Celle-ci réunit les deux autour d’une question de société : quand est-il acceptable qu’une machine reconnaisse un visage ? Elle donne un outil de calcul, puis un outil de jugement.

Principe de la reconnaissance faciale

Un système de reconnaissance faciale procède en trois étapes. Il détecte d’abord un visage dans une image. Il le transforme ensuite en une liste de quelques centaines de nombres, appelée empreinte ou gabarit, calculée par un réseau de neurones entraîné sur des millions de visages. Il compare enfin cette empreinte à une ou plusieurs autres : si la distance entre elles est inférieure à un seuil, il conclut que c’est la même personne.

Deux usages se distinguent nettement. Vérifier, c’est comparer un visage à une seule empreinte : suis-je bien le propriétaire de ce téléphone, le titulaire de ce passeport ? Identifier, c’est comparer un visage à toute une base : qui est cette personne ? L’identification à distance, sur des passants qui ne le savent pas, pose des questions bien plus graves que la vérification consentie.

Le système peut se tromper de deux façons : ne pas reconnaître la bonne personne, ou déclarer identiques deux personnes différentes. Le seuil règle l’équilibre entre ces deux erreurs ; on ne peut pas faire baisser l’une sans faire monter l’autre. Comme l’a montré l’étude de Joy Buolamwini et Timnit Gebru vue à la séance 21, les erreurs sont plus fréquentes pour certains groupes, en particulier les femmes à la peau foncée, quand les données d’entraînement sont déséquilibrées.

Calcul des fausses alertes

Le calcul du stade est le cœur scientifique de la séance. Un système qui se trompe une fois sur cent semble excellent. Mais appliqué à 50 000 personnes dont 5 seulement sont recherchées, il produit environ 500 fausses alertes pour 5 vraies : une alerte sur cent seulement est juste. Ce phénomène porte un nom en statistique, le paradoxe des faux positifs. Il apparaît chaque fois qu’on cherche quelque chose de rare dans une très grande population.

Rendre le seuil plus strict réduit les fausses alertes, mais fait manquer davantage de personnes recherchées. Il n’existe pas de réglage parfait : régler le seuil est un choix, qui dépend de ce que coûte chaque erreur. Une fausse alerte, c’est une personne innocente contrôlée, parfois arrêtée. Aux États-Unis, plusieurs personnes ont été arrêtées à tort après une identification erronée par un logiciel, et la plupart d’entre elles étaient noires.

Six usages

Les cartes ont été choisies pour couvrir tout l’éventail, de l’usage le plus banal au plus inquiétant. Quatre questions guident l’analyse : vérifier ou identifier, choix laissé aux personnes, existence d’un moyen moins intrusif, conséquences d’une erreur. La troisième question reprend le principe de proportionnalité du droit européen : un moyen qui atteint aux libertés n’est permis que s’il est nécessaire et qu’aucun moyen plus doux ne suffit.

Les lycées de Nice et Marseille sont le cas le plus proche des élèves. En 2019, la CNIL a jugé le projet contraire aux principes de proportionnalité et de minimisation des données, parce qu’un contrôle par badge atteignait le même but. Elle a rappelé que les données biométriques sont particulièrement sensibles, et plus encore pour des mineurs. Le tribunal administratif de Marseille a annulé le projet en février 2020.

La base de visages est celle de l’entreprise Clearview AI, qui a constitué une base de plus de vingt milliards de photos copiées sur internet. La CNIL l’a condamnée en octobre 2022 à 20 millions d’euros d’amende et lui a ordonné de supprimer les données des personnes en France. D’autres autorités européennes ont prononcé des sanctions semblables.

Les Jeux olympiques de 2024 illustrent la vidéosurveillance algorithmique : un logiciel analyse les images pour repérer des situations prédéfinies, comme un mouvement de foule ou un objet abandonné, sans reconnaître les visages. La loi du 19 mai 2023 l’a autorisée à titre expérimental jusqu’en mars 2025. Sa prolongation fait débat.

L’aéroport et le téléphone sont des vérifications avec choix. L’enfant perdu, cas imaginé, montre qu’un usage d’identification peut être légitime dans des circonstances graves et encadrées : c’est exactement l’une des exceptions prévues par le droit européen.

Règles en vigueur

Le règlement européen sur l’IA interdit depuis le 2 février 2025 plusieurs pratiques : la notation sociale des personnes, la constitution de bases de reconnaissance faciale par collecte non ciblée d’images sur internet ou de vidéosurveillance, la catégorisation biométrique qui déduit d’un visage les opinions politiques, la religion ou l’orientation sexuelle, et la reconnaissance des émotions à l’école et au travail. Il interdit aussi l’identification biométrique à distance en temps réel dans les espaces publics par les forces de l’ordre, sauf pour trois motifs : rechercher des victimes d’enlèvement ou des personnes disparues, prévenir une menace terroriste imminente, localiser le suspect d’un crime grave. Chaque usage exige une autorisation préalable d’un juge ou d’une autorité indépendante. Les autres systèmes biométriques sont classés à haut risque et soumis à des obligations strictes.

En France, le règlement général sur la protection des données interdit en principe le traitement des données biométriques, sauf exceptions. La CNIL contrôle ces usages et peut sanctionner.

Apports de la reconnaissance faciale

La séance ne doit pas laisser croire que la technique ne sert qu’à surveiller. Elle protège l’accès à un téléphone mieux qu’un code court. Elle accélère le passage aux frontières. Des applications l’utilisent pour aider des personnes aveugles à savoir qui se trouve devant elles. Elle peut aider à retrouver une personne disparue. Ce qui compte n’est pas la technique en elle-même, mais l’usage qu’on en fait, son encadrement et les recours ouverts en cas d’erreur.

Conduite de la séance

Les élèves ont souvent un avis tranché, dans un sens ou dans l’autre. Le calcul des fausses alertes déplace la discussion des opinions vers les faits : il convainc mieux qu’un discours. Pendant l’analyse des usages, faire justifier chaque avis par l’une des quatre questions. Ne jamais utiliser de photo d’élève, même pour une démonstration. La question des armes autonomes surgit parfois : elle figure parmi les questions difficiles, et peut être reprise à la séance 30.

Vocabulaire et erreurs fréquentes

Employer : reconnaissance faciale, donnée biométrique, vérifier, identifier, seuil, fausse alerte, proportionnalité.

Trois idées reçues reviennent. « Un système juste à 99 % ne se trompe presque jamais » : tout dépend de la rareté de ce qu’on cherche. « La reconnaissance faciale est interdite en Europe » : elle est encadrée, et certains usages seulement sont interdits. « Les caméras des Jeux reconnaissaient les visages » : la loi l’excluait.