LLM : excellents générateurs de code, piètres ingénieurs logiciels

Des années d'entretiens avec des ingénieurs logiciels révèlent que la construction et la maintenance de modèles mentaux clairs sont essentielles. Bien que les LLM soient doués pour générer et modifier du code, ils manquent de la capacité cruciale de maintenir ces modèles. Ils se confondent facilement, souffrent d'omissions de contexte et de biais de récence, et hallucinent des détails, empêchant la résolution itérative de problèmes pour les tâches complexes. L'auteur conclut que les LLM sont des outils utiles pour les ingénieurs logiciels, mais ne peuvent pas les remplacer pour des projets autres que simples.