L'illusion du coût des LLM : comment la mise à l'échelle a tué l'abonnement à prix fixe
De nombreuses entreprises d'IA ont misé sur la tendance à la baisse de 10 x par an des coûts des LLM, en supposant que les pertes initiales seraient compensées par des marges élevées futures. La réalité est différente. Si les coûts des modèles diminuent, la demande des utilisateurs pour les meilleurs modèles continue de croître, entraînant une explosion de l'utilisation de l'informatique. La longueur des réponses de modèles tels que ChatGPT a considérablement augmenté, entraînant une croissance exponentielle de la consommation de jetons. Cela signifie que, même avec des réductions de coûts, les dépenses globales dépassent de loin les attentes. L'article analyse trois contre-stratégies : la tarification à l'utilisation dès le premier jour, la création de coûts de commutation élevés pour des marges élevées et l'intégration verticale pour tirer profit de l'infrastructure. L'auteur conclut que le maintien d'un modèle d'abonnement à prix fixe mènera finalement à la faillite.