Estratégias de Engenharia de Contexto para Agentes de Modelos de Linguagem Grandes
Com o aumento da utilização de agentes de modelos de linguagem grandes (LLM), a engenharia de contexto surge como um aspecto crucial na construção de agentes eficientes. Este artigo resume quatro estratégias principais de engenharia de contexto: escrita (salvando o contexto fora da janela de contexto, como o uso de blocos de notas ou memórias), seleção (escolha de contexto relevante do armazenamento externo), compressão (resumo ou redução do contexto) e isolamento (divisão do contexto em vários agentes ou ambientes). Essas estratégias visam abordar as limitações das janelas de contexto LLM, melhorar o desempenho do agente e reduzir custos. O artigo usa exemplos de empresas como Anthropic e Cognition para detalhar os métodos e desafios específicos de cada estratégia, incluindo seleção de memória, resumo de contexto e coordenação multiagente.
Leia mais