Cursor AIのAIサポートボットが架空のポリシーを「幻覚」

Cursor AIのAIサポートボットが、存在しないポリシー（複数のマシンからのログインを禁止する）を誤ってユーザーに伝えた。これによりユーザーの不満が噴出し、Cursorの共同設立者Michael TruellがRedditで謝罪。この回答はAIサポートボットの「幻覚」だったと認めた。問題は、セッションのセキュリティ強化を目的とした最近のアップデートが原因で、一部ユーザーのセッションが無効になったことにある。現在は問題は修正され、AIが生成したサポート回答は全て明確にラベル付けされている。この出来事は、AIモデルの「幻覚」のリスクと、AIをカスタマーサポートに用いる際の徹底的なテストの重要性を浮き彫りにした。