Amélioration des interfaces en ligne de commande et des API pour les agents LLM

L'auteur a rencontré des limitations dans les outils de ligne de commande et les API existants lors de l'utilisation d'agents de modèles linguistiques de grande taille (LLM) pour l'automatisation de l'ingénierie inverse, en particulier avec les petites fenêtres de contexte des modèles locaux. Les API doivent trouver un équilibre entre la fourniture d'informations suffisantes pour réduire les appels d'outils et éviter le dépassement de la fenêtre de contexte. Les solutions explorées incluent des docstrings améliorées, des fonctions auxiliaires et des hooks de pré-commit. Des améliorations supplémentaires sont suggérées, notamment des wrappers qui mettent en cache la sortie, la structurent et indiquent le nombre de lignes restantes, ainsi que des hooks de shell fournissant des informations sur le répertoire. L'auteur conclut que les CLI existantes doivent être améliorées pour les LLM ; peut-être même un ensemble complet d'outils CLI améliorés pour les LLM ou un shell LLM personnalisé est-il nécessaire pour améliorer l'expérience utilisateur des agents LLM.