ThinkMesh : Raisonnement parallèle pour les LLM
2025-08-24
ThinkMesh est une bibliothèque Python permettant d'exécuter plusieurs chemins de raisonnement en parallèle, de les noter à l'aide de signaux de confiance internes, de redistribuer les ressources de calcul aux branches prometteuses et de fusionner les résultats avec des vérificateurs et des réducteurs. Elle prend en charge les Transformers Hugging Face hors ligne et vLLM/TGI, ainsi que les API hébergées. ThinkMesh propose diverses stratégies telles que DeepConf, Self-Consistency et Tree of Thoughts, et inclut des fonctionnalités telles que la mise en cache, les métriques et le traçage JSON pour une efficacité et une fiabilité accrues dans le raisonnement des grands modèles de langage.
Développement
raisonnement parallèle