Klarity: Unsicherheit in generativen Modellen aufdecken

Klarity ist ein Tool zur Analyse der Unsicherheit in den Ausgaben generativer Modelle. Es kombiniert die Analyse von Rohwahrscheinlichkeiten und semantische Analyse, um tiefe Einblicke in das Verhalten des Modells während der Textgenerierung zu liefern. Die Bibliothek bietet eine Dual-Entropie-Analyse, semantische Clusterbildung und strukturierte JSON-Ausgabe sowie KI-gestützte Analysen für menschenlesbare Erkenntnisse. Derzeit wird Hugging Face Transformers unterstützt, mit Plänen für die Unterstützung weiterer Frameworks und Modelle.