OpenAI proíbe usuários chineses por usar o ChatGPT para desenvolver ferramenta de vigilância de mídia social com IA

A OpenAI proibiu um grupo de usuários chineses por tentar usar o ChatGPT para depurar e editar o código de uma ferramenta de vigilância de mídia social alimentada por IA. A ferramenta monitorava sentimentos anti-chineses em plataformas como X, Facebook e YouTube, com a intenção de compartilhar insights com as autoridades chinesas. A OpenAI detectou as atividades dos usuários, observando seu uso consistente do ChatGPT durante o horário comercial chinês e o alto volume de prompts sugerindo operação manual, em vez de automatizada. Esta é a primeira vez que a OpenAI descobre uma ferramenta de IA desse tipo, levantando preocupações sobre o uso indevido da tecnologia de IA.