Kuzu-Wasm과 WebLLM을 사용한 브라우저 내 Graph RAG 챗봇

이 블로그 게시물에서는 Kuzu-Wasm과 WebLLM을 사용하여 구축된 완전히 브라우저 내에서 작동하는 챗봇을 소개합니다. 이 챗봇은 Graph Retrieval-Augmented Generation(Graph RAG) 기술을 활용하여 LinkedIn 데이터에 대한 자연어 질의에 답변합니다. 이 애플리케이션은 WebAssembly의 장점을 활용하여 데이터의 로컬 처리를 통한 개인 정보 보호 향상 및 간소화된 배포를 제공합니다. 아키텍처, 구현, 데이터 수집, WebLLM 프롬프트, 성능 관찰 결과 등이 자세히 설명되어 있습니다. 모델 크기 및 속도와 같은 현재 제한 사항이 있지만, WebAssembly 기술의 발전과 더 작고 더 우수한 LLM의 출현으로 이러한 고급 파이프라인이 완전히 브라우저 내에서 작동하는 미래를 기대할 수 있습니다.