AMD의 Gaia: Windows PC용 로컬 추론을 위한 오픈소스 LLM

AMD는 Windows 머신에서 LLM을 로컬로 실행할 수 있도록 하는 오픈소스 프로젝트인 Gaia를 공개했습니다. 추론에는 Lemonade SDK를 사용하며 Ryzen AI 프로세서에 최적화되어 있습니다. Gaia는 정확도와 컨텍스트 인식 응답을 개선하기 위해 Retrieval-Augmented Generation(RAG)을 채택하고 있습니다. 채팅, YouTube 검색, 농담 생성 등의 에이전트를 갖춘 Gaia는 오프라인 기능을 제공하여 보안을 강화하고 지연 시간을 줄입니다. 성장하는 로컬 LLM 분야에서 강력한 경쟁 제품인 Gaia는 클라우드 기반 솔루션에 매력적인 대안을 제공합니다.