Ein großes Sprachmodell unter DOS ausführen? Unglaublich!

Ein Entwickler hat erfolgreich ein großes Sprachmodell (LLM) auf einem alten DOS-PC ausgeführt! Mit Andrej Karpathys llama2.c-Projekt portierte er Metas Llama-2-Modell auf DOS und demonstrierte es auf Maschinen wie einem Thinkpad T42 (2004) und einem Toshiba Satellite 315CDT (1996). Trotz Herausforderungen bei der Speicherzuordnung und Gleitkommaoperationen meisterte er die Hürden mit dem Open-Watcom-Compiler und einem DOS-Extender. Obwohl langsam, zeigt diese Leistung die erstaunlichen Fähigkeiten des Retro-Computings.