Lasst LLMs keine Entscheidungen treffen: Sie sind schlecht darin
Der Autor, ein Entwickler von NPCs für ein Online-Spiel, argumentiert gegen die Verwendung von Large Language Models (LLMs) für Geschäftslogik und Entscheidungsfindung. Stattdessen sollten LLMs als Benutzeroberfläche dienen, die Benutzeranfragen in API-Aufrufe und Ergebnisse zurück in natürliche Sprache übersetzen. Es wird gezeigt, dass LLMs in Bezug auf Leistung, Debugging und Anpassung im Vergleich zu spezialisierten Systemen unterlegen sind, anhand eines Beispiels eines Schachspiel-Bots. Der Autor befürwortet die Verwendung von LLMs für Aufgaben wie Texttransformation, Kategorisierung und Verständnis der Benutzerabsicht, während er sich für die Kernlogik auf spezialisierte Systeme verlässt. Auch wenn sich LLMs weiter verbessern, bleibt dieses Architekturprinzip entscheidend.
Mehr lesen