Model2Vec em Rust: Inferência 1,7x mais rápida
2025-05-18
O crate `model2vec-rs` fornece uma implementação leve em Rust para carregar e inferir modelos de embedding estáticos do Model2Vec, com uma velocidade 1,7x maior que a versão em Python. Ele suporta o carregamento de modelos pré-treinados do Hugging Face Hub, oferece uma interface de linha de comando e permite argumentos de codificação personalizados. Benchmarks mostram que a versão em Rust processa 8000 amostras por segundo, enquanto a versão em Python processa 4650.
Desenvolvimento
Embedding de Texto