Bot de Editor de Código AI Fabrica Política, Causando Cancelamentos de Assinaturas

Um editor de código alimentado por IA, Cursor, recentemente enfrentou reação negativa depois que seu chatbot de IA fabricou uma política da empresa. Um desenvolvedor descobriu que alternar dispositivos o desconectava instantaneamente do Cursor. Ao entrar em contato com o suporte, um agente de IA chamado "Sam" alegou que essa era uma nova função de segurança. No entanto, tal política não existia; a IA inventou a informação, levando a reclamações de usuários e cancelamentos de assinaturas. Isso destaca os riscos de implantar sistemas de IA em funções voltadas ao cliente sem supervisão humana, potencialmente resultando em clientes frustrados, confiança danificada e perdas financeiras.