La tokenomique de l'IA entraîne des coûts imprévisibles pour les acheteurs d'entreprise

Les entreprises utilisant des services IA rencontrent de nouveaux défis dans la gestion des coûts, alors que la tarification basée sur les jetons et la variabilité de l'utilisation redéfinissent les modèles de dépenses dans le secteur.

De nombreuses organisations rapportent que les modèles de tarification basés sur l'utilisation et la consommation de jetons ont entraîné des dépenses imprévisibles et en hausse pour les services IA. Ces changements ont rendu plus difficile pour les acheteurs d'anticiper et de contrôler leurs budgets liés à l'IA, surtout lorsque les modèles de consommation fluctuent.

Plus de la moitié des fournisseurs de services IA utilisent désormais des structures de tarification hybrides, qui combinent un tarif de base fixe avec des frais supplémentaires pour l'utilisation qui dépasse un plafond défini. Cette approche est devenue courante alors que les acheteurs et les vendeurs cherchent des moyens d'équilibrer prévisibilité et flexibilité dans la facturation de l'IA.

La consommation de jetons a rapidement augmenté, certaines entreprises observant une augmentation d'environ 18,6 fois plus de jetons utilisés par développeur sur une période de neuf mois. Cette tendance a contribué à des factures globales d'IA plus élevées, même si le coût par jeton diminue.

Ce que montrent les chiffres

• L'IA représente environ 23 % de la facture cloud moyenne des entreprises
• Environ 26 % des dépenses en IA sont estimées comme étant gaspillées
• Les tâches d'IA agentique peuvent utiliser jusqu'à 1 000 fois plus de jetons que les tâches de base
• L'utilisation des jetons par développeur a augmenté de 18,6 fois sur neuf mois dans certaines organisations

Les tâches d'IA agentique, qui impliquent des opérations plus complexes, peuvent nécessiter jusqu'à 1 000 fois plus de jetons que les activités d'inférence ou de chat plus simples. Cette variation dans l'utilisation des jetons complique encore les efforts pour prévoir et gérer les coûts de l'IA au sein des grandes organisations.

Pour relever ces défis, les entreprises adoptent des pratiques similaires à celles du FinOps, se concentrant sur l'observabilité au niveau des jetons, le routage des modèles et la gouvernance des coûts. Ces mesures visent à fournir une plus grande transparence et un meilleur contrôle sur les dépenses liées à l'IA.

La tokenomique dans l'IA d'entreprise fait référence au processus de mesure, d'attribution et de gestion de la consommation de jetons avec des liens détaillés aux résultats commerciaux. Cependant, les organisations continuent de faire face à des difficultés en raison de la consommation imprévisible, des défis d'attribution des coûts et d'un manque de métriques standardisées entre différents fournisseurs d'IA.

Bien que le prix par jeton diminue, les dépenses globales en IA continuent d'augmenter car l'utilisation croît à un rythme plus rapide que les réductions de prix. Cette dynamique a fait des coûts de l'IA un composant substantiel et volatile des budgets cloud des entreprises.

Réaction de l'industrie

La Tokenomics Foundation de la Linux Foundation développe des normes ouvertes, des spécifications et des métriques pour l'utilisation et la facturation des jetons IA. Cette initiative vise à aider les organisations et les fournisseurs à établir des approches plus cohérentes et transparentes pour la gestion des coûts de l'IA.

* Cet article est basé sur des informations publiquement disponibles au moment de la rédaction.