A Ilusão do Custo de LLM: Como a Escalabilidade Matou a Assinatura de Preço Fixo

Muitas empresas de IA apostaram na tendência de queda de 10 vezes ao ano nos custos de LLM, assumindo que as perdas iniciais seriam compensadas por altas margens futuras. A realidade é diferente. Embora os custos do modelo estejam diminuindo, a demanda do usuário pelos melhores modelos continua crescendo, levando a uma explosão no uso de computação. O comprimento das respostas de modelos como o ChatGPT aumentou dramaticamente, resultando em um crescimento exponencial no consumo de tokens. Isso significa que, mesmo com reduções de custos, o gasto geral excede em muito as expectativas. O artigo analisa três contra-estratégias: precificação baseada em uso desde o primeiro dia, criação de custos de mudança altos para margens altas e integração vertical para lucrar com a infraestrutura. O autor conclui que aderir a um modelo de assinatura de preço fixo levará, finalmente, à falência.