Python mit der Geschwindigkeit von Rust: Ein neuer Compiler

Dieser Artikel stellt Function vor, einen Python-Compiler, der Python-Code in nativen Code kompiliert und so die Ausführungsgeschwindigkeit deutlich verbessert. Am Beispiel der Matrizenmultiplikation wird gezeigt, wie durch symbolisches Tracing ein Graph der Zwischenrepräsentation (IR) erstellt und dieser dann in nativen Code (z. B. C) umgewandelt wird. Dies ermöglicht eine Leistung, die mit Rust vergleichbar ist. Obwohl es sich noch um einen Proof-of-Concept handelt, wird Function bereits in Produktionsanwendungen eingesetzt, z. B. für die monokulare Tiefenabschätzung und die Echtzeit-Posenerkennung. Zukünftige Ziele umfassen die Inferenz von LLMs auf Geräten.