Pour le cas du groupe : quelle décision a été confiée à une machine ? Qui l’a voulue ? Qui a été touché ? Quelles valeurs s’opposent ?

• 1

  Les notes du baccalauréat anglais, 2020

  Les examens sont annulés à cause de la pandémie. Le gouvernement britannique fait calculer les notes par un algorithme qui tient compte des notes prévues par les professeurs et des résultats passés de chaque lycée. Environ 39 % des notes prévues sont abaissées, surtout dans les lycées aux résultats historiquement faibles. Après des manifestations d’élèves, l’algorithme est abandonné.

• 2

  Les allocations aux Pays-Bas, 2005 à 2019

  L’administration fiscale néerlandaise utilise un système de repérage des fraudes aux allocations de garde d’enfants, qui prend en compte, entre autres, la nationalité. Environ 26 000 parents sont accusés à tort et sommés de rembourser des sommes énormes. Le scandale conduit à la démission du gouvernement en janvier 2021.

• 3

  La voiture autonome de Tempe, 2018

  Aux États-Unis, une voiture autonome d’essai, avec une conductrice de sécurité à bord, percute et tue une piétonne qui traversait la nuit en poussant un vélo. Le système avait détecté la piétonne, mais ne l’avait pas correctement identifiée à temps, et le freinage d’urgence automatique avait été désactivé.

• 4

  Le tri des patients

  Cas imaginé pour la séance. Un hôpital envisage un système qui classe les patients arrivant aux urgences par ordre de priorité, à partir de leurs symptômes et de leurs examens. Il serait plus rapide que l’infirmière d’accueil et, d’après les tests, un peu plus précis en moyenne.

• 5

  Le dilemme

  En 2018, une expérience en ligne a recueilli environ 40 millions de décisions dans 233 pays et territoires : une voiture autonome qui ne peut plus freiner doit-elle épargner les passagers ou les piétons, les plus jeunes ou les plus âgés ? Les préférences variaient selon les régions du monde.