Syftr: Uma estrutura de código aberto para otimização automática de fluxos de trabalho de IA generativa
Construir fluxos de trabalho de IA generativa eficazes enfrenta uma explosão combinatória de escolhas. Syftr é uma estrutura de código aberto que usa otimização bayesiana multi-objetivo para identificar automaticamente fluxos de trabalho Pareto-ótimos em termos de precisão, custo e restrições de latência. O Syftr pesquisa eficientemente um vasto espaço de configuração para encontrar fluxos de trabalho que equilibram de forma ótima precisão e custo, obtendo resultados significativos no benchmark CRAG Sports, reduzindo o custo em quase duas ordens de magnitude. O Syftr suporta vários componentes e algoritmos e é compatível com outras ferramentas de otimização, fornecendo uma abordagem eficiente e escalonável para a construção de sistemas de IA generativa.