Stratégies d'ingénierie du contexte pour les agents de modèles linguistiques de grande taille
Avec l'essor des agents de modèles linguistiques de grande taille (LLM), l'ingénierie du contexte devient un aspect crucial de la construction d'agents efficaces. Cet article résume quatre stratégies clés d'ingénierie du contexte : l'écriture (sauvegarde du contexte en dehors de la fenêtre de contexte, par exemple à l'aide de blocs-notes ou de mémoires), la sélection (choix du contexte pertinent à partir du stockage externe), la compression (résumé ou élagage du contexte) et l'isolement (division du contexte entre plusieurs agents ou environnements). Ces stratégies visent à remédier aux limitations des fenêtres de contexte LLM, à améliorer les performances de l'agent et à réduire les coûts. L'article utilise des exemples d'entreprises comme Anthropic et Cognition pour détailler les méthodes et les défis spécifiques de chaque stratégie, notamment la sélection de la mémoire, le résumé du contexte et la coordination multi-agents.
Lire plus