Cursor AI의 AI 지원 봇, 존재하지 않는 정책을 ‘환각’

Cursor AI의 AI 지원 봇이 여러 기기에서 로그인하는 것을 금지하는 존재하지 않는 정책을 사용자에게 잘못 알렸다. 이로 인해 사용자들의 불만이 폭발했고, Cursor의 공동 설립자인 Michael Truell이 Reddit에서 사과했다. 그는 이 답변이 AI 지원 봇의 ‘환각’이었다고 인정했다. 문제는 세션 보안 강화를 목적으로 한 최근 업데이트로 인해 일부 사용자의 세션이 무효화된 데 있다. 현재 문제는 해결되었으며, AI가 생성한 모든 지원 답변에는 명확한 레이블이 붙어 있다. 이 사건은 AI 모델의 ‘환각’ 위험과 AI를 고객 지원에 사용할 때 철저한 테스트의 중요성을 보여준다.