AI 제품 구축: 백엔드 아키텍처 심층 분석
2024-12-27
이 글에서는 엔지니어링 리더를 위한 AI 기반 최고참모를 구축한 AI 팀의 여정을 자세히 설명합니다. 처음에는 간단한 추론 파이프라인을 사용했지만 애플리케이션이 성장함에 따라 멀티 에이전트 시스템으로 전환했습니다. 저자는 에이전트 설계 원칙, 마이크로서비스와의 차이점, 객체 지향 구현에 대해 설명합니다. 메모리 관리(CQRS 및 이벤트 소싱 포함)와 자연어 이벤트 처리도 설명되어 있습니다. 1만 명의 사용자로 확장하는 데는 샤딩, 비동기 프로그래밍, LLM 호출 최적화, Temporal로의 마이그레이션이 포함되었습니다.