Ajustes finos de LLMs: Injeção de conhecimento ou sobrescrita destrutiva?
2025-06-11
Este artigo revela as limitações do ajuste fino de modelos de linguagem grandes (LLMs). O autor argumenta que, para LLMs avançados, o ajuste fino não é simplesmente injeção de conhecimento, mas pode ser destrutivo, sobrescrevendo estruturas de conhecimento existentes. O artigo examina como as redes neurais funcionam e explica como o ajuste fino pode levar à perda de informações cruciais dentro de neurônios existentes, causando consequências inesperadas. O autor defende abordagens modulares, como geração aumentada por recuperação (RAG), módulos adaptadores e engenharia de prompts, para injetar informações novas de forma mais eficaz, sem danificar a arquitetura geral do modelo.