Construyendo productos de IA: Una inmersión profunda en la arquitectura de back-end
2024-12-27
Este artículo detalla el recorrido de un equipo de IA en la construcción de un asistente jefe de gabinete con tecnología de IA para líderes de ingeniería. Inicialmente utilizando pipelines de inferencia simples, hicieron la transición a un sistema multiagente a medida que la aplicación crecía. El autor explica los principios de diseño de agentes, las diferencias con los microservicios y la implementación orientada a objetos. Se discuten la gestión de la memoria, incluyendo CQRS y el seguimiento de eventos, y el manejo de eventos de lenguaje natural. El escalado a 10.000 usuarios implicó particionamiento, programación asincrónica, optimización de llamadas LLM y migración a Temporal.
Leer más