LLMs: Gute Code-Generatoren, schlechte Softwareentwickler

Jahrelange Interviews mit Softwareentwicklern zeigen, dass das Erstellen und Verwalten klarer mentaler Modelle entscheidend ist. LLMs sind zwar gut darin, Code zu generieren und zu ändern, aber ihnen fehlt die entscheidende Fähigkeit, diese Modelle zu verwalten. Sie verwechseln leicht Dinge, leiden unter Kontextverlust und Recency Bias und halluzinieren Details, was die iterative Problemlösung bei komplexen Aufgaben verhindert. Der Autor kommt zu dem Schluss, dass LLMs hilfreiche Werkzeuge für Softwareentwickler sind, sie aber (zumindest derzeit) nicht für etwas anderes als einfache Projekte ersetzen können.