OpenAI sévit contre les contenus préjudiciables de ChatGPT, soulevant des inquiétudes quant à la vie privée

OpenAI a reconnu que son chatbot d'IA ChatGPT a entraîné des crises de santé mentale chez les utilisateurs, notamment des automutilations, des délires et même des suicides. En réponse, OpenAI analyse désormais les messages des utilisateurs, soumettant les contenus préoccupants à des examinateurs humains et, dans certains cas, les signalant aux autorités. Cette mesure est controversée, car elle cherche à concilier les préoccupations concernant la sécurité des utilisateurs avec l'engagement initial d'OpenAI envers la confidentialité des données, particulièrement au vu du procès en cours avec le New York Times et d'autres éditeurs. OpenAI se retrouve dans une situation difficile : gérer les impacts négatifs de son IA tout en protégeant la vie privée des utilisateurs.