Chatbot Graph RAG no navegador usando Kuzu-Wasm e WebLLM

Este post de blog demonstra um chatbot totalmente integrado ao navegador, construído com Kuzu-Wasm e WebLLM, utilizando a técnica de Geração Aumentada por Recuperação de Grafos (Graph RAG) para responder a perguntas em linguagem natural sobre dados do LinkedIn. O aplicativo utiliza os benefícios do WebAssembly, permitindo o processamento local de dados para maior privacidade e implantação simplificada. A arquitetura, implementação, ingestão de dados, prompt do WebLLM e observações de desempenho são detalhadas. Embora existam limitações atuais, como tamanho do modelo e velocidade, os avanços no WebAssembly e o surgimento de LLMs menores e melhores sugerem um futuro promissor para pipelines tão avançados rodando inteiramente no navegador.