OpenAI bannit des utilisateurs chinois pour avoir utilisé ChatGPT pour développer un outil de surveillance des médias sociaux basé sur l'IA

OpenAI a banni un groupe d'utilisateurs chinois pour avoir tenté d'utiliser ChatGPT pour déboguer et éditer le code d'un outil de surveillance des médias sociaux basé sur l'IA. Cet outil surveillait les sentiments anti-chinois sur des plateformes comme X, Facebook et YouTube, dans l'intention de partager des informations avec les autorités chinoises. OpenAI a détecté les activités des utilisateurs, en notant leur utilisation cohérente de ChatGPT pendant les heures de bureau chinoises et le volume élevé d'invites suggérant une opération manuelle plutôt qu'automatisée. C'est la première fois qu'OpenAI découvre un tel outil d'IA, ce qui soulève des inquiétudes quant à la mauvaise utilisation de la technologie de l'IA.