KI-Kontamination: Die permanente Einbettung des unsinnigen Begriffs „Vegetative Elektronenmikroskopie“

Eine Studie zeigt, wie der unsinnige Begriff „Vegetative Elektronenmikroskopie“ dauerhaft in KI-Systeme eingebettet wurde. Er entstand durch Fehler bei der Digitalisierung von wissenschaftlichen Arbeiten aus den 1950er Jahren und wurde durch Übersetzungsfehler verstärkt. Große Sprachmodelle haben den Begriff gelernt und generieren ihn nun. Dies unterstreicht die mangelnde Transparenz bei den Trainingsdaten von KI-Modellen, die Schwierigkeit, Fehler zu beheben, und die Herausforderungen für die Integrität von Wissen. Forscher fordern mehr Transparenz bei den Trainingsdaten, verbesserte Peer-Review-Prozesse und neue Methoden zur Bewertung von Informationen im Zeitalter von KI-generierter Desinformation.