Rust 기반 Model2Vec: 1.7배 빠른 추론
2025-05-18
`model2vec-rs` 크레이트는 Model2Vec 정적 임베딩 모델의 로드 및 추론을 위한 경량 Rust 구현을 제공하며, Python 버전보다 1.7배 빠릅니다. Hugging Face Hub에서 사전 훈련된 모델 로드를 지원하며, 명령줄 인터페이스와 사용자 지정 인코딩 인수를 제공합니다. 벤치마크 테스트 결과, Rust 버전은 초당 8000개의 샘플을 처리하는 반면, Python 버전은 4650개의 샘플을 처리했습니다.
개발