Klarity : Décrypter l'incertitude dans les modèles génératifs
2025-02-03
Klarity est un outil permettant d'analyser l'incertitude dans les sorties des modèles génératifs. Il combine l'analyse des probabilités brutes et la compréhension sémantique pour fournir des informations approfondies sur le comportement du modèle lors de la génération de texte. La bibliothèque offre une analyse de l'entropie double, un clustering sémantique et une sortie JSON structurée, ainsi qu'une analyse basée sur l'IA pour des informations compréhensibles par l'homme. Elle prend actuellement en charge Hugging Face Transformers, avec des projets d'extension à d'autres frameworks et modèles.