Ingénierie de l'activation : manipulation des traits de personnalité dans les LLM

Un article sur arXiv explore une nouvelle méthode pour identifier et manipuler les traits de personnalité dans les grands modèles de langage (LLM) à l'aide de l'« ingénierie de l'activation ». Inspirés par des recherches antérieures sur le refus et la direction des LLM, les chercheurs proposent une technique pour ajuster les directions d'activation liées aux traits de personnalité, permettant un réglage fin dynamique de la personnalité du LLM. Ce travail contribue à une meilleure compréhension de l'interprétabilité des LLM tout en soulevant des considérations éthiques cruciales.