Séance 13. Jetons et vocabulaire

Dossier documentaire

Un exemplaire par groupe, à distribuer ou à projeter.

Dossier documentaire

Fiche 1. Le vocabulaire de la machine

le, la, les, chat, chien, s, mange, aient, ons, ré, pond, re, in, tell, ig, ence, art, ific, iel, ment, anti, con, stit, ution, nel, et chacune des lettres de l’alphabet, avec ou sans accent. Règle : de gauche à droite, prendre le plus long morceau du vocabulaire qui commence le reste du mot ; à défaut, une seule lettre.

Fiche 2. Les mots à découper

chats, chien, mangeaient, mangeons, répondre, intelligence, artificielle, anticonstitutionnellement, zèbre, lesquelles. Pour chaque mot, écrire les jetons séparés par des barres et leur nombre.

Fiche 3. Une phrase, plusieurs langues

Nombre de jetons de la même phrase, « Le chat dort sur le canapé », avec deux découpages publics utilisés par des modèles d’OpenAI. Découpage de 2023 : anglais 8, français 9, swahili 9, grec 24. Découpage de 2024 : anglais 8, français 7, swahili 7, grec 12. Une étude de 2023 a mesuré, sur un même texte traduit, des écarts allant jusqu’à quinze fois plus de jetons selon la langue.