Rust Model2Vec: 1,7x schnellere Inferenz
2025-05-18
Das Crate `model2vec-rs` bietet eine leichtgewichtige Rust-Implementierung zum Laden und Inferieren von Model2Vec-statischen Embedding-Modellen und ist 1,7x schneller als die Python-Version. Es unterstützt das Laden vorab trainierter Modelle von Hugging Face Hub, bietet eine Kommandozeilenschnittstelle und erlaubt benutzerdefinierte Codierungsargumente. Benchmarks zeigen, dass die Rust-Version 8000 Stichproben pro Sekunde im Vergleich zu 4650 der Python-Version verarbeitet.
Entwicklung
Text-Embedding