Les modèles de langage ne lisent pas des mots mais des tokens — des fragments de texte qu'ils découpent et traitent un à un. Chaque requête, chaque réponse, chaque fenêtre de contexte s'exprime en nombre de tokens, et ce nombre est plafonné. La token efficiency, c'est l'art de faire passer le maximum de sens dans ce budget contraint, sans sacrifier la précision.
L'enjeu dépasse la simple concision. Quand un moteur récupère puis assemble une réponse, il privilégie les passages qui répondent sans détour : un paragraphe dense « rapporte » plus par token qu'un développement noyé dans les transitions et les formules de politesse. C'est le pendant, côté rédaction, de l'answer density, et cela facilite le travail d'un système de récupération comme le RAG, qui doit tenir dans une fenêtre limitée.
L'erreur fréquente est de confondre efficience et texte court : un contenu peut être bref et creux, ou long et dense. Le bon critère n'est pas le nombre de mots mais le ratio sens/token. En pratique, placez la réponse en tête, supprimez le méta-discours, préférez le fait précis à la généralité — autant de réflexes qui rendent vos passages plus citables au niveau où les moteurs opèrent, celui du passage.