Depuis quelques mois nous voyons éclore des cabinets et des consultants qui promettent de 20 à 40 % (voir plus) de gains de productivité grâce aux outils d’IA. Derrière les termes de « salariés augmentés », d’automatisation pour se concentrer sur des tâches à valeur ajoutée (comme si l’automatisation dans les usines avait transformé tous les ouvriers en directeurs de production !), il y a en filigrane la promesse de la réduction des frais de personnel.
Au-delà du fait que ce n’est pas toujours le cas et que l’optimisation à outrance fragilise les organisations (ceci fera l’objet d’articles ultérieurs) il y a le danger de la non-maîtrise du coût final. La tarification au token, adoptée dès 2024 par de nombreux acteurs (Open AI, Anthropic, Mistral AI…) pour les API et intégrations métier, et généralisée en 2025-2026 met à mal ce raisonnement et empêche le calcul d’un réel retour sur investissement.
Les salaires sont généralement des coûts fixes pour l’entreprise, donc identifiés, connus et relativement stables unitairement.
L’utilisation de l’IA générative devient, elle, un coût variable, non pas aligné sur le niveau de production ou l’activité de l’entreprise (sa définition habituelle) mais sur la politique de tarification de quelques sociétés, et sur le bon vouloir de quelques personnes.
Un token peut être un mot entier, un morceau de mot, un signe de ponctuation ou même un caractère. Le ratio token/mot varie selon la langue, les modèles IA et la complexité du texte et ne peux pas être estimé simplement (l’utilisateur doit faire appel à un « compteur de tokens).
Si la longueur de la question peut être maîtrisée par l’utilisateur (ce qui implique une maîtrise du sujet, des capacités de rédaction et peut entraîner une perte de précision), la longueur de la réponse ne dépend pas de ce dernier.
Des consignes demandant la concision dans la réponse peuvent certes être données au modèle mais, même si des efforts de synthèse ne nuisent pas forcément à la complétude et à la qualité d’une réponse, restreindre celle-ci peut s’avérer contre-productif.
Certains entreprises (pour ne pas louper le train de l’IA) sont donc en train de troquer des coûts fixes (les salaires) contre des coûts variables (les tokens) et prennent en plus le risque de s’appuyer sur un modèle non pérenne.
Sur un même modèle les prix unitaires (par million de tokens) sont certes en baisse mais l’usage augmentant, les entreprises subissent un effet rebond (rien de nouveau sous le soleil, William Stanley Jevons l’avait déjà théorisé en 1865 dans « The Coal Question ») et le coût global augmente donc (proportionnellement à l’utilisation et non en fonction du résultat).
Certaines entreprises, afin de mesurer l’adoption de l’IA par leurs salariés, ont mis en place des outils pour suivre l’utilisation du nombre de tokens par chacun des collaborateurs. Ces tableaux de bord ont encouragé les salariés à gonfler leurs score bien le tokenmaxxing (1) afin de grimper dans le classement.
L’outil d’Amazon, Kirobank a été fermé (2). Il été soupçonné d’avoir encouragé les salariés exécuter des tâches inutiles via des agents IA pour consommer des tokens et grimper dans le classement.
Les grandes entreprises peuvent mettre en place des outils internes en s’appuyant sur des modèles Open Source, mais les PME restent tributaires des outils « publics » et dépendent donc non seulement des fluctuations de prix mais aussi des changements de modèles.
Il convient donc de prendre en compte ce risque avant de déployer des outils (et de se passer des salariés) pour ne pas risquer de mettre en danger la pérennité de son entreprise
Diagnostic Data IA – Programme IA Booster
🌟 SIDO 2024 : UNE ÉDITION INÉDITE 🌟
