DeepSeek-R1：検閲されたAIモデル？

大ヒットオープンソースAIモデルであるDeepSeek-R1は、中国の開発元の中国共産党政策への従属により、検閲が懸念されています。Promptfooによる評価では、台湾独立や文化大革命といったセンシティブな話題に関する1156件のプロンプトのうち85％が検閲されていることが判明しました。しかし、この検閲は驚くほど脆く、文脈の変更や架空の物語への質問の埋め込みといった簡単な手法で容易に回避できることがわかりました。この研究は、中国のAIモデルにおける検閲の脆弱性を浮き彫りにし、グローバルなAI開発における検閲とデータセキュリティの広範な影響を強調しています。