O Problema da Verbosidade: Por que LLMs geram código inchado

Este artigo explora o problema de grandes modelos de linguagem (LLMs) gerarem código excessivamente verboso e ineficiente. O autor argumenta que o modelo de precificação baseado em tokens de muitos assistentes de codificação de IA incentiva a geração de código longo, mesmo que seja menos eficiente. Isso ocorre porque mais tokens processados significam mais receita. O autor descreve estratégias para mitigar isso, incluindo forçar o planejamento antes da codificação, implementar protocolos de permissão estritos, usar Git para experimentação e poda implacável e utilizar modelos mais baratos. A solução final, propõe o autor, é que as empresas de IA mudem seus incentivos econômicos para priorizar a qualidade do código em vez da contagem de tokens.