Syftr: Un marco de código abierto para la optimización automática de flujos de trabajo de IA generativa
Construir flujos de trabajo de IA generativa efectivos enfrenta una explosión combinatoria de opciones. Syftr es un marco de código abierto que utiliza optimización bayesiana multiobjetivo para identificar automáticamente flujos de trabajo Pareto-óptimos en términos de precisión, costo y restricciones de latencia. Syftr busca eficientemente un vasto espacio de configuración para encontrar flujos de trabajo que equilibran de manera óptima la precisión y el costo, obteniendo resultados significativos en el punto de referencia CRAG Sports, reduciendo el costo en casi dos órdenes de magnitud. Syftr admite varios componentes y algoritmos y es compatible con otras herramientas de optimización, proporcionando un enfoque eficiente y escalable para la construcción de sistemas de IA generativa.