LLMs: Grandes generadores de código, pésimos ingenieros de software

Años de entrevistas a ingenieros de software revelan que construir y mantener modelos mentales claros es fundamental. Si bien los LLMs son buenos generando y modificando código, carecen de la capacidad crucial de mantener estos modelos. Se confunden fácilmente, sufren de omisión de contexto y sesgo de actualidad, y alucinan detalles, lo que impide la resolución iterativa de problemas para tareas complejas. El autor concluye que los LLMs son herramientas útiles para los ingenieros de software, pero no pueden reemplazarlos para nada más que proyectos simples.