ThinkMesh: Razonamiento Paralelo para LLMs
2025-08-24
ThinkMesh es una biblioteca de Python para ejecutar diversas rutas de razonamiento en paralelo, calificándolas con señales de confianza internas, reasignando recursos computacionales a ramas prometedoras y fusionando resultados con verificadores y reductores. Admite transformadores Hugging Face sin conexión y vLLM/TGI, y API alojadas. ThinkMesh ofrece varias estrategias, como DeepConf, Self-Consistency y Tree of Thoughts, e incluye funciones como almacenamiento en caché, métricas y seguimiento JSON para una mayor eficiencia y confiabilidad en el razonamiento de modelos de lenguaje grandes.
Desarrollo
razonamiento paralelo