Melhorando CLIs e APIs para Agentes LLM
O autor encontrou limitações nas ferramentas de linha de comando e APIs existentes ao usar agentes de Modelos de Linguagem Grandes (LLM) para automação de engenharia reversa, especialmente com as pequenas janelas de contexto dos modelos locais. As APIs precisam equilibrar o fornecimento de informações suficientes para reduzir as chamadas de ferramentas, evitando o estouro da janela de contexto. As soluções exploradas incluem docstrings aprimoradas, funções auxiliares e ganchos de pré-commit. Melhorias adicionais sugeridas envolvem wrappers que armazenam em cache a saída, a estruturam e relatam as linhas restantes, bem como ganchos de shell que fornecem informações de diretório. O autor conclui que os CLIs existentes precisam de aprimoramentos de LLM; talvez até um conjunto inteiro de CLIs aprimoradas por LLM ou um shell LLM personalizado seja necessário para melhorar a experiência do usuário para agentes LLM.