Cursor AI Support-Bot halluziniert nicht existierende Richtlinie

Der KI-Support-Bot von Cursor AI hat Benutzer fälschlicherweise über eine nicht existierende Richtlinie informiert, die Anmeldungen von mehreren Geräten verbietet. Dies führte zu Benutzerfrustration, was dazu führte, dass der Mitbegründer von Cursor, Michael Truell, sich auf Reddit entschuldigte. Er gab zu, dass die Antwort eine Halluzination seines KI-Support-Bots war. Das Problem rührte von einem kürzlich erfolgten Update zur Verbesserung der Sitzungssicherheit her, das dazu führte, dass die Sitzungen einiger Benutzer ungültig wurden. Das Problem ist jetzt behoben, und alle KI-generierten Support-Antworten sind deutlich gekennzeichnet. Dieser Vorfall unterstreicht das Risiko von Halluzinationen von KI-Modellen und die Bedeutung gründlicher Tests bei der Verwendung von KI für den Kundensupport.