激活工程：操纵大型语言模型的个性特征
2024-12-31
一篇发表在arXiv上的论文探讨了利用“激活工程”技术来识别和操纵大型语言模型（LLM）个性特征的方法。研究人员受到先前关于LLM拒绝和引导研究的启发，提出了一种通过调整与个性特征相关的激活方向来实现LLM个性动态微调的方法。这项研究不仅加深了我们对LLM可解释性的理解，也引发了对这类技术伦理影响的思考。
AI
激活工程