Der Tagtraum-Loop von LLMs: Der Preis für bahnbrechende Innovation?
Trotz ihrer beeindruckenden Fähigkeiten haben große Sprachmodelle (LLMs) noch keinen echten Durchbruch erzielt. Der Autor schlägt vor, dass dies daran liegt, dass ihnen ein Hintergrundverarbeitungsmechanismus fehlt, der dem Default-Mode-Netzwerk des menschlichen Gehirns ähnelt. Um dies zu beheben, wird eine „Tagtraum-Schleife“ (DDL) vorgeschlagen: ein Hintergrundprozess, der kontinuierlich Paare von Konzepten aus dem Speicher abtastet, nicht offensichtliche Verbindungen erforscht und wertvolle Ideen filtert, wodurch eine zusammengesetzte Feedback-Schleife entsteht. Obwohl rechenintensiv, könnte diese „Tagtraum-Steuer“ der notwendige Preis für Innovation und ein Wettbewerbsvorteil sein. Letztendlich könnten teure „Tagtraum-KIs“ hauptsächlich Trainingsdaten für die nächste Generation effizienter Modelle generieren und so die drohende Datenmauer umgehen.