Mayo-Klinik löst Halluzinationsproblem von LLMs mit umgekehrtem RAG
Große Sprachmodelle (LLMs) leiden unter „Halluzinationen“ – der Erzeugung ungenauer Informationen – ein besonders gefährliches Problem im Gesundheitswesen. Die Mayo-Klinik hat dies mit einer neuartigen „umgekehrten RAG“-Technik angegangen. Durch die Verknüpfung extrahierter Informationen mit ihrer ursprünglichen Quelle eliminierte diese Methode fast alle datenretrievalbasierten Halluzinationen und ermöglichte den Einsatz des Modells in der gesamten klinischen Praxis. Die Technik kombiniert den CURE-Algorithmus und Vektor-Datenbanken und gewährleistet die Rückverfolgbarkeit jedes Datenpunkts zu seinem Ursprung. Dies erhöht die Zuverlässigkeit und Glaubwürdigkeit des Modells, reduziert die Arbeitsbelastung der Ärzte erheblich und eröffnet neue Wege für die personalisierte Medizin.