Le bot de support de Cursor AI hallucine une politique inexistante
Le bot de support IA de Cursor AI a erronément informé les utilisateurs d'une politique inexistante interdisant les connexions depuis plusieurs appareils. Cela a causé la frustration des utilisateurs, ce qui a conduit le cofondateur de Cursor, Michael Truell, à présenter ses excuses sur Reddit. Il a admis que la réponse était une hallucination de son bot de support IA. Le problème provenait d'une récente mise à jour visant à améliorer la sécurité des sessions, ce qui a entraîné l'invalidation des sessions de certains utilisateurs. Le problème est maintenant résolu et toutes les réponses de support générées par IA sont clairement étiquetées. Cet incident met en lumière le risque des hallucinations des modèles IA et l'importance de tests approfondis lors de l'utilisation de l'IA pour le support client.