LLMs: Ótimos geradores de código, péssimos engenheiros de software

Anos de entrevistas com engenheiros de software revelam que construir e manter modelos mentais claros é fundamental. Embora os LLMs sejam bons em gerar e modificar código, eles carecem da capacidade crucial de manter esses modelos. Eles se confundem facilmente, sofrem de omissão de contexto e viés de recentismo e alucinam detalhes, impedindo a resolução iterativa de problemas para tarefas complexas. O autor conclui que os LLMs são ferramentas úteis para engenheiros de software, mas não podem substituí-los para nada além de projetos simples.