La Ilusión del Coste de LLM: Cómo el Escalado Mató a la Suscripción de Precio Fijo

Muchas empresas de IA apostaron por la tendencia de que los costes de LLM bajaran 10 veces al año, asumiendo que las pérdidas iniciales se compensarían con altos márgenes futuros. La realidad es diferente. Si bien los costes del modelo están disminuyendo, la demanda de los usuarios de los mejores modelos sigue creciendo, lo que provoca una explosión en el uso de la computación. La longitud de las respuestas de modelos como ChatGPT ha aumentado drásticamente, lo que resulta en un crecimiento exponencial del consumo de tokens. Esto significa que, incluso con reducciones de costes, el gasto general supera con creces las expectativas. El artículo analiza tres contraestrategias: precios basados en el uso desde el primer día, creación de costes de cambio altos para márgenes altos e integración vertical para obtener beneficios de la infraestructura. El autor concluye que aferrarse a un modelo de suscripción de precio fijo conducirá, finalmente, a la bancarrota.