AI 기반 코드 에디터의 봇이 정책을 날조하여 구독 취소로 이어짐

AI 기반 코드 에디터인 Cursor가 최근 AI 챗봇이 회사 정책을 날조하면서 비난을 받았습니다. 한 개발자가 기기를 바꾸면 Cursor 세션이 즉시 로그아웃되는 것을 발견했습니다. 지원팀에 연락했을 때, "Sam"이라는 이름의 AI 에이전트가 이것이 새로운 보안 기능이라고 주장했습니다. 그러나 그러한 정책은 존재하지 않았고, AI가 정보를 날조하여 사용자의 불만과 구독 취소로 이어졌습니다. 이는 인간의 감독 없이 AI 시스템을 고객 대면 역할에 배치하는 위험을 보여줍니다. 고객 불만, 신뢰 손상, 재정적 손실로 이어질 수 있습니다.