Contexte technique
Je vois régulièrement le même schéma : la direction dit « utilisez les jetons avec précaution », et les employés apprennent vite à déjouer le système. Une discussion récente l'a parfaitement illustré : une équipe avait déjà épuisé sa limite d'entreprise, tandis qu'une autre en avait encore plus de la moitié à la fin du mois et est passée à Claude Opus à plein régime juste pour que le budget ne soit pas perdu.
Ce qui retient mon attention n'est pas l'anecdote elle-même, mais le fait qu'il s'agit d'un problème très concret de mise en œuvre de l'IA. Si une équipe mesure l'utilité par une limite mensuelle au lieu du coût d'une tâche accomplie, le système est presque certain de produire un comportement étrange.
En réalité, les jetons sont depuis longtemps devenus une monnaie interne. Mais dans la plupart des entreprises, la comptabilité reste primitive : un pot commun, des limites grossières, peu de transparence sur les entrées/sorties, pas de routage approprié entre les modèles et presque aucune mise en cache. Ensuite, tout le monde se demande pourquoi un modèle coûteux est utilisé pour des brouillons alors qu'un modèle moins cher n'est pas intégré là où il serait amplement suffisant.
J'ai analysé cela à plusieurs reprises : sans une architecture d'IA appropriée, les coûts fluctuent non pas à cause de « développeurs avides », mais en raison d'un mauvais système d'incitation. Si le coût par scénario n'est pas visible, si les alertes ne sont pas configurées et s'il n'y a pas de cascade de modèles, les gens commencent à optimiser la limite, pas le produit.
Impact sur l'entreprise et l'automatisation
La première conséquence est simple : le service financier obtient du bruit au lieu d'une image réelle de la demande. La fin du mois ressemble à un pic de consommation, mais ce n'est pas une augmentation de la valeur, c'est une tentative de ne pas perdre le budget futur.
La seconde est plus douloureuse. Les équipes cessent de choisir le bon modèle pour la tâche et commencent à choisir en fonction de la politique interne. En conséquence, l'automatisation par l'IA devient plus chère, et la qualité des processus fluctue sans lien réel avec le ROI.
Les seuls gagnants ici sont ceux qui disposent déjà d'un routage de modèles, de limites basées sur les cas d'usage, de RAG, de cache et d'un modèle de refacturation clair par département. Les perdants sont les entreprises qui ont essayé de « contrôler l'IA » avec un simple tableur et un plafond mensuel.
Je traiterais cela non pas avec des interdictions mais avec de l'ingénierie : calculer le coût par flux de travail, séparer les budgets d'expérimentation et de production, définir des politiques pour les modèles coûteux et donner un retour d'information clair aux équipes. Chez Nahornyi AI Lab, nous résolvons ces distorsions par le développement de solutions d'IA : nous construisons une architecture où l'entreprise paie pour des résultats utiles, et non pour un jeu toxique consistant à brûler des jetons. Si vous sentez que votre intégration de l'IA s'est transformée en un cirque budgétaire, nous pouvons analyser sereinement vos scénarios et reconstruire le système sans ce drame mensuel.