L’arbre de décision
ObjectifConstruire un arbre de questions qui classe des exemples, puis voir comment une machine le construit seule.
Déroulé
- 5 min
Accroche
Jouer une partie rapide de « Qui est-ce ? » avec la classe : le professeur pense à un élève, la classe pose des questions auxquelles on répond par oui ou par non. Faire remarquer que certaines questions éliminent beaucoup plus de monde que d’autres.
- 15 min
Construire l’arbre
Groupes de trois ou quatre. Rôles : une personne manipule les cartes, une dessine l’arbre, une vérifie. Chaque groupe reçoit les douze cartes d’exemples, six Glouks et six autres. Il dessine un arbre : une question en haut, deux branches oui et non, d’autres questions si nécessaire, et au bout de chaque branche une réponse, Glouk ou pas glouk. L’arbre doit classer correctement les douze exemples.
- 7 min
Tester l’arbre
Distribuer les quatre cartes de test. Chaque groupe les fait descendre dans son arbre et note les réponses. Le professeur donne les bonnes réponses ; chaque groupe compte ses réussites.
- 5 min
Comparer les arbres
Deux ou trois groupes dessinent leur arbre au tableau. Faire constater que des arbres différents réussissent tous les exemples, et que certains sont plus courts que d’autres.
- 13 min
Laisser la machine choisir
Expliquer la méthode d’une machine : pour chaque question possible, compter combien d’exemples seraient mal classés si l’on s’arrêtait là, et garder la meilleure. Faire le calcul collectivement pour les quatre questions de départ : la machine choisit les antennes, avec trois erreurs seulement. Recommencer sur une branche. Comparer avec les arbres des élèves.
- 5 min
Trace écrite
Projeter la trace écrite, la faire recopier ou distribuer la version imprimée.
- 5 min
Vérification
Lire les quatre questions. Les élèves notent la lettre de leur réponse, puis la correction suit aussitôt.
Savoir professeur
Les connaissances utiles pour faire la séance. Environ dix minutes de lecture.
Principe de l’arbre de décision
La séance 5 a présenté une méthode qui garde tous ses exemples en mémoire et compare chaque nouveau cas à ses voisins. L’arbre de décision procède autrement : il résume les exemples en une suite de questions à réponse oui ou non, qu’on peut lire et appliquer à la main. C’est l’une des méthodes d’apprentissage automatique les plus anciennes et les plus utilisées sur des données en tableau.
Lecture d’un arbre
Un arbre de décision se dessine à l’envers : la racine est en haut. En haut, une première question, par exemple « a-t-il des antennes ? ». De chaque réponse part une branche, qui mène soit à une nouvelle question, soit à une feuille qui donne la réponse finale. Pour classer un exemple, on le fait descendre de la racine jusqu’à une feuille.
L’intérêt majeur d’un arbre est sa lisibilité : pour chaque réponse, on peut dire exactement quelles questions y ont mené. C’est pourquoi on l’utilise souvent quand une décision doit être justifiée.
Jeu des Glouks
Les douze cartes d’exemples montrent des créatures décrites par quatre caractéristiques : la forme du corps, le nombre de pattes, la présence d’antennes et le fond. Six sont des Glouks. La règle cachée, à ne pas donner aux élèves, est la suivante : un Glouk a soit un corps rond et quatre pattes, soit un corps carré et des antennes. Le fond est réparti au hasard et ne sert à rien.
Un arbre à deux étages suffit donc : « corps rond ? », puis « quatre pattes ? » d’un côté et « des antennes ? » de l’autre. Les élèves trouvent souvent des arbres plus longs, qui réussissent aussi tous les exemples. Les quatre cartes de test vérifient que l’arbre fonctionne sur des créatures nouvelles ; leurs réponses figurent au corrigé.
Construction automatique de l’arbre
La méthode est simple à faire à la main. Pour chaque question possible, on sépare les exemples en deux groupes, oui et non. Dans chaque groupe, on donnerait la réponse majoritaire ; les exemples de la minorité seraient alors mal classés. On additionne ces erreurs et l’on garde la question qui en fait le moins.
Avec les douze exemples, le calcul donne :
| Question | Erreurs si l’on s’arrête là |
|---|---|
| Des antennes ? | 3 |
| Quatre pattes ? | 4 |
| Fond rayé ? | 5 |
| Corps rond ? | 6 |
La machine choisit donc les antennes en premier, alors que la règle cachée commence par la forme du corps. Sur la branche « oui », sept exemples, dont cinq Glouks, elle recommence : la question des pattes ou celle du corps réduit encore les erreurs, et ainsi de suite jusqu’à ce que chaque feuille ne contienne que des exemples d’une même catégorie. Son arbre réussit tous les exemples, mais il a trois étages au lieu de deux.
Cette différence est instructive. La machine choisit à chaque étape la meilleure question sur le moment, sans anticiper : on parle de méthode gloutonne. Elle est rapide et donne de bons arbres, pas toujours les plus courts. Les vrais logiciels mesurent la qualité d’une séparation par des formules plus fines que le simple comptage des erreurs, mais le principe est le même.
Usages des arbres de décision
Les arbres de décision servent pour des données en tableau : détection de fraude, prévision de pannes, aide au diagnostic, accord de crédit. On en combine souvent des centaines, chacun construit sur une partie des exemples, dans une forêt aléatoire : la forêt est plus précise qu’un seul arbre, mais perd une partie de sa lisibilité. Pour les images, le son ou le langage, les réseaux de neurones de la séance 8 sont bien plus efficaces.
Vocabulaire et erreurs fréquentes
Employer : arbre de décision, question, branche, feuille, caractéristique. Préciser que la racine est en haut, ce qui surprend.
Deux idées reçues reviennent. « La machine trouve la vraie règle » : elle trouve une règle qui marche sur les exemples, pas forcément celle qu’on avait en tête. « Un arbre plus grand est meilleur » : un arbre trop détaillé finit par apprendre les particularités de chaque exemple, ce que la séance 7 appellera le surapprentissage.
Version avec ordinateurs
- La construction de l’arbre à la main reste sur papier.
- Pour l’étape « Laisser la machine choisir », les binômes ouvrent un tableur où le professeur a recopié les douze exemples, une ligne par carte, une colonne par caractéristique et une pour l’étiquette.
- Avec les filtres du tableur, compter pour chaque question le nombre de Glouks et d’autres de chaque côté, puis en déduire le nombre d’erreurs si l’on s’arrêtait à cette question.
- Comparer les quatre questions et vérifier que la meilleure est celle des antennes.
Version sans ordinateur
Le déroulé ordinaire se fait déjà sans ordinateur. Le calcul de la machine se fait au tableau, dans un tableau à quatre lignes, une par question.
Matériel
- Les seize cartes, une planche par groupe : la première page pour les douze exemples, la seconde pour les quatre tests.
- Une grande feuille par groupe pour dessiner l’arbre.
Consignes
- Ne distribuer les cartes de test qu’une fois l’arbre terminé.
- Accepter tout arbre qui classe correctement les douze exemples, même s’il est long.
- Pour le calcul collectif, dessiner pour chaque question deux colonnes, oui et non, et y compter les Glouks et les autres. Le nombre d’erreurs d’une colonne est le plus petit des deux nombres.
Corrigé des cartes
- Test A Pas glouk
- Test B Glouk
- Test C Glouk
- Test D Pas glouk
Trace écrite
Un arbre de décision classe un exemple par une suite de questions à réponse oui ou non. Chaque branche mène à une nouvelle question ou à une réponse.
Pour construire un arbre, une machine essaie toutes les questions possibles et garde celle qui sépare le mieux les exemples, c’est-à-dire celle qui ferait le moins d’erreurs. Elle recommence sur chaque branche.
Plusieurs arbres peuvent réussir les mêmes exemples. Contrairement à d’autres modèles, un arbre se lit : on peut expliquer chacune de ses réponses.
Vérification
À projeter ou à lire en fin de séance. La réponse s’affiche en cliquant sur « Réponse ».
-
Comment un arbre de décision classe-t-il un nouvel exemple ?
- AEn le comparant à tous les exemples connus.
- BEn le faisant descendre de question en question jusqu’à une réponse.
- CEn tirant au sort.
Réponse
B. On part de la question du haut, on suit la branche oui ou non, et ainsi de suite jusqu’à une feuille qui donne la réponse.
-
Comment une machine choisit-elle la première question de l’arbre ?
- AElle prend la question la plus courte.
- BElle garde la question qui ferait le moins d’erreurs si l’on s’arrêtait là.
- CElle demande à un humain.
Réponse
B. Elle compare toutes les questions possibles. Avec les douze exemples, la question des antennes ne laisse que trois erreurs, moins que les autres.
-
La question « fond rayé ? » ne sert à rien pour les Glouks. Pourquoi la machine ne la choisit-elle pas ?
- AParce qu’elle laisserait beaucoup d’exemples mal classés.
- BParce qu’elle ne voit pas les fonds.
- CParce qu’elle est interdite.
Réponse
A. Le fond est réparti au hasard entre Glouks et autres : séparer les exemples selon le fond ne trie presque rien. La méthode le repère automatiquement par le nombre d’erreurs.
-
Quel avantage a un arbre de décision sur un réseau de neurones ?
- AIl est toujours plus précis.
- BOn peut lire ses questions et expliquer chacune de ses réponses.
- CIl n’a pas besoin d’exemples.
Réponse
B. Un arbre se lit comme une suite de questions. C’est pourquoi on l’utilise quand il faut justifier une décision, même s’il est souvent moins précis sur des données complexes comme les images.
Questions difficiles
Questions d’élèves embarrassantes, avec une réponse possible.
Notre arbre est différent de celui de la machine. Lequel est le bon ?
Les deux, s’ils classent bien les exemples et les tests. Un arbre plus court est en général préférable : il est plus facile à lire et risque moins d’avoir appris des détails propres aux exemples, comme le verra la séance 7.
Pourquoi la machine ne trouve-t-elle pas la règle la plus simple ?
La règle cachée commence par la forme du corps. Mais la machine choisit à chaque étape la meilleure question sur le moment, sans regarder plus loin : c’est une méthode dite gloutonne. Elle trouve un bon arbre, pas toujours le plus court.
Les arbres de décision servent vraiment ?
Oui, beaucoup, souvent par centaines regroupés en forêts, pour des données en tableau : détection de fraude, prévision de pannes, aide au diagnostic. Leur lisibilité en fait un outil apprécié quand il faut expliquer une décision.
Et si deux exemples identiques ont des étiquettes différentes ?
Aucun arbre ne peut alors les séparer. On accepte une feuille qui donne la réponse majoritaire, et donc quelques erreurs. C’est fréquent avec de vraies données, où les étiquettes contiennent des erreurs, comme l’a montré la séance 4.