LLMs são surpreendentemente baratos de executar
2025-06-09
Esta publicação contesta a ideia equivocada generalizada de que os Grandes Modelos de Linguagem (LLMs) são proibitivamente caros de operar. Ao comparar os custos dos LLMs com os dos mecanismos de busca na web e citando vários preços de APIs de LLM, o autor demonstra que os custos de inferência de LLM caíram dramaticamente, sendo até uma ordem de magnitude mais baratos do que algumas APIs de busca. O autor também refuta objeções comuns às estratégias de precificação de LLM, como subsídio de preços e custos subjacentes elevados, e aponta que o verdadeiro desafio de custo reside nos serviços de back-end que interagem com a IA, e não nos próprios LLMs.