Token· Jeton

Unité élémentaire de texte (mot, sous-mot ou caractère) traitée par un modèle de langage.

ExempleLe texte 'inassurabilité' est découpé en 5 tokens par GPT-4 : 'in', 'assur', 'abil', 'it', 'é' ; l'unité de facturation des API et la limite sur laquelle s'applique la fenêtre de contexte.

En clairLe modèle ne lit pas des mots mais des morceaux de mots, découpés selon des règles statistiques. C'est pour cela qu'il compte mal les lettres d'un mot ou trébuche sur un nom propre rare. C'est aussi l'unité facturée : votre note dépend de la longueur du texte échangé, pas du nombre de questions posées. Un texte en français consomme d'ailleurs plus d'unités qu'un texte anglais de même longueur.