Transformer Lab: LLMs lokal ausführen, ohne Code

Transformer Lab ist eine Open-Source-Plattform, mit der jeder große Sprachmodelle (LLMs) lokal erstellen, optimieren und ausführen kann, ohne eine einzige Codezeile schreiben zu müssen. Sie unterstützt Hunderte beliebter Modelle wie Llama 3 und Phi 3 und funktioniert auf verschiedenen Hardware-Plattformen, einschließlich Apple Silicon und GPUs, und bietet RLHF und verschiedene Präferenzoptimierungstechniken. Benutzer interagieren über eine intuitive Benutzeroberfläche mit den Modellen, um sie feinabzustimmen, zu bewerten und RAG zu verwenden, wobei mehrere Inferenz-Engines, Plugins und Modellkonvertierungen unterstützt werden. Unter Windows, macOS und Linux verfügbar, ermöglicht es Entwicklern, LLMs in ihre Produkte zu integrieren, ohne Python- oder Machine-Learning-Kenntnisse benötigen.