DeepSeek-R1: Um Modelo de IA Censurado?

DeepSeek-R1, um modelo de IA de código aberto de grande sucesso, gerou preocupações devido à censura imposta pela empresa chinesa por causa das políticas do PCC. Uma avaliação da Promptfoo revelou que o DeepSeek-R1 censurou 85% de 1.156 prompts sobre tópicos sensíveis, como independência de Taiwan e a Revolução Cultural. No entanto, essa censura mostrou-se surpreendentemente frágil e facilmente contornável usando técnicas simples, como alterar o contexto ou enquadrar perguntas em narrativas ficcionais. Esta pesquisa destaca a vulnerabilidade da censura em modelos de IA chineses e sublinha as implicações mais amplas da censura e da segurança de dados no desenvolvimento global da IA.