Model2Vec en Rust: Inferencia 1,7 veces más rápida
2025-05-18
El crate `model2vec-rs` proporciona una implementación ligera en Rust para cargar e inferir modelos de incrustación estáticos de Model2Vec, con una velocidad 1,7 veces superior a la versión en Python. Admite la carga de modelos preentrenados desde Hugging Face Hub, ofrece una interfaz de línea de comandos y permite argumentos de codificación personalizados. Los benchmarks muestran que la versión en Rust procesa 8000 muestras por segundo, en comparación con las 4650 de la versión en Python.
Desarrollo
Incrustación de Texto