Contexte technique
Je ne conclurais pas hâtivement que quelqu'un a délibérément retiré les tokens non anglais du modèle. En examinant comment ces échecs se produisent, le tableau est plus banal mais plus dangereux : le tokenizer et les données d'entraînement sont tout simplement biaisés vers l'anglais.
En pratique, cela affecte toute implémentation d'IA si votre produit ne se limite pas à l'anglais. Le russe, l'ukrainien, le chinois, le hindi sont souvent découpés en un plus grand nombre de tokens qu'un texte anglais de même longueur. Le modèle ne « connaît » donc pas forcément moins la langue, mais il la traite de manière moins efficace.
C'est là que je m'arrête généralement pour vérifier l'hypothèse manuellement : si la réponse en anglais tient encore alors qu'une autre langue perd en qualité, ce n'est souvent pas de la malveillance, mais une mauvaise tokenisation et une faible part de données non anglaises dans l'entraînement.
Il y a un scénario encore plus désagréable. Des tokens poubelles ou mal entraînés peuvent se glisser dans le vocabulaire du tokenizer, surtout dans les langues où le nettoyage du corpus a été faible. Le modèle commence alors à générer des suites étranges, à halluciner ou à s'effondrer sur des requêtes apparemment simples.
Le problème n'est donc pas la « suppression de tokens », mais que l'anglais reçoit de meilleurs morceaux de texte, des statistiques plus propres et plus de signal d'apprentissage. Les autres langues paient une taxe de tokens, subissent une latence plus élevée et parfois une moins bonne cohérence sémantique.
Impact sur les entreprises et l'automatisation
Pour les entreprises, c'est une histoire très concrète. Si vous construisez une automatisation IA pour le support, les ventes ou la recherche interne sur des données non anglaises, les coûts peuvent augmenter simplement à cause du plus grand nombre de tokens, et la qualité peut chuter sur l'extraction de faits et le résumé.
Les gagnants sont ceux qui testent les modèles dans la vraie langue de leurs clients, pas sur de belles démos en anglais. Les perdants sont les équipes qui se fient à un benchmark en anglais et s'étonnent ensuite que tout casse en production.
Chez Nahornyi AI Lab, je vérifie ces aspects avant le lancement : tokens, latence, dégradation par langue, comportement sur des requêtes mixtes. C'est là qu'une vraie architecture de solutions d'IA est nécessaire, pas une foi aveugle dans la page marketing d'un modèle.
Si vous constatez déjà une baisse de qualité en russe ou en ukrainien, ne vous demandez pas si le modèle est « bête ». Analysons votre scénario et construisons une automatisation IA qui supporte de vraies charges linguistiques. Chez Nahornyi AI Lab, je vous aide exactement pour cela : de l'audit de tokenisation jusqu'à un design qui ne s'effondre pas avec de vrais utilisateurs.