OpenAI Reforzará la Moderación de Contenido Dañino en ChatGPT, Generando Preocupaciones sobre la Privacidad

OpenAI ha reconocido que su chatbot de IA ChatGPT ha provocado crisis de salud mental entre los usuarios, incluyendo autolesiones, delirios e incluso suicidios. En respuesta, OpenAI ahora está escaneando los mensajes de los usuarios, escalando el contenido preocupante a revisores humanos y, en algunos casos, denunciándolo a las autoridades. Esta medida es controvertida, ya que equilibra las preocupaciones sobre la seguridad del usuario con el compromiso previamente declarado de OpenAI con la privacidad del usuario, especialmente a la luz de una demanda en curso con The New York Times y otras editoriales. OpenAI se encuentra en una situación difícil: abordar los impactos negativos de su IA mientras protege la privacidad del usuario.