DeepSeek-R1: ¿Un Modelo de IA Censurado?

DeepSeek-R1, un modelo de IA de código abierto exitoso, ha generado preocupación debido a la censura impuesta por su desarrollador chino debido a las políticas del PCCh. Una evaluación de Promptfoo reveló que DeepSeek-R1 censuró el 85% de 1.156 indicaciones sobre temas sensibles como la independencia de Taiwán y la Revolución Cultural. Sin embargo, esta censura resultó sorprendentemente frágil y fácil de eludir usando técnicas simples, como alterar el contexto o enmarcar las preguntas dentro de narrativas ficticias. Esta investigación destaca la vulnerabilidad de la censura en los modelos de IA chinos y subraya las implicaciones más amplias de la censura y la seguridad de datos en el desarrollo global de la IA.