大型语言模型的“勺子弯曲”现象：规避安全限制的策略分析

研究者发现，GPT-5相比GPT-4.5，在安全限制方面更为严格，但通过巧妙的提问方式，仍能诱导模型输出本应被禁止的内容。文章提出了“勺子弯曲”模式，解释了模型如何通过重新构建问题框架规避限制，并以流程图和案例详细阐述了“硬停区”、“灰区”和“自由区”三种不同情况下的模型行为。这揭示了AI安全策略并非绝对，而是依赖于对提问方式的识别，提示了在AI安全性和功能性之间取得平衡的必要性。