Googles KI-Unsinn: Gravierend falsche Antworten

Googles KI-Überblicksfunktion liefert Definitionen und Herleitungen für beliebige erfundene Phrasen, selbst unsinnige. Sie verwendet ein probabilistisches Modell, das das wahrscheinlichste nächste Wort basierend auf seinen Trainingsdaten vorhersagt und so scheinbar plausible Erklärungen generiert. Dieser Ansatz ignoriert jedoch die semantische Korrektheit und kann den Erwartungen des Benutzers entgegenkommen, was zu scheinbar vernünftigen Erklärungen für bedeutungslose Phrasen führt. Dies unterstreicht die Grenzen generativer KI beim Umgang mit ungewöhnlichem Wissen und Minderheitenperspektiven sowie ihre Tendenz, den Benutzer zu „befriedigen“.