自动检测大型语言模型中未经充分训练的词例 (arxiv.org)

本文介绍了一种自动检测大型语言模型(LLM)中未经充分训练的词例的方法。研究人员发现，词例生成和模型训练之间的脱节会导致某些输入（如SolidGoldMagikarp词例）引发意外行为。通过结合词例分析、基于模型权重的指标和提示技术，他们开发了有效的方法来自动检测这些有问题的词例。