Lokales Ausführen von LLMs mit Deno und Jupyter Notebooks

2025-03-01
Lokales Ausführen von LLMs mit Deno und Jupyter Notebooks

Dieser Artikel beschreibt die Erfahrung des Autors beim Einrichten und Verwenden eines lokalen Large Language Models (LLM) (DeepSeek R1) mit Deno, Jupyter Notebooks, Ollama und LangChain.js. Der Autor beschreibt den Prozess, von der Einrichtung der Umgebung und der Installation des Modells bis zum Schreiben des Codes und der Visualisierung der Ergebnisse. Der Artikel hebt die Einfachheit und Effizienz von Deno und Jupyter Notebooks für die KI-Entwicklung hervor und zeigt einen reibungslosen Workflow und eine erfolgreiche Interaktion mit dem lokalen LLM. Die Möglichkeit, das lokale Modell einfach gegen ein API-basiertes Modell auszutauschen, wird ebenfalls erwähnt.

Entwicklung