Tilus: Eine neue DSL für leistungsstarke GPU-Programmierung

Tilus ist eine leistungsstarke domänenspezifische Sprache (DSL) für die GPU-Programmierung. Sie bietet Granularität auf Thread-Block-Ebene mit Tensoren als primärem Datentyp, explizite Kontrolle über Shared Memory und Register-Tensoren und niederpräzise Typen mit beliebigen Bitbreiten (1 bis 8 Bit). Mit automatischer Abstimmung, Caching und einer Python-artigen Schnittstelle vereinfacht Tilus die GPU-Kernel-Entwicklung. Basierend auf der Forschung in "Tilus: Eine virtuelle Maschine für beliebige Low-Precision GPGPU-Berechnungen im LLM-Serving", nutzt es Erkenntnisse aus Projekten wie Hidet, TVM, Triton und Hexcute.