在本地运行Llamafile并生成结构化JSON输出

2025-06-26

本文介绍了如何在本地运行Llamafile,并使其生成结构化的JSON输出。作者使用LangChain库中的JsonOutputParser和PromptTemplate,自定义了一个Answer类来定义期望的JSON结构,并通过链式调用prompt、llm和parser三个组件来实现。即使Llamafile本身不具备与结构化输出相关的功能,也能通过这种方法巧妙地实现。文章还提供了一个基于Llama-3.2-1B-Instruct-Q8_0.llamafile的示例,并在最后给出了完整的代码链接。

阅读更多
开发 Llamafile

使用BFF模式构建安全的Keycloak、Angular应用程序

2025-01-28

本文介绍了如何使用Backend for Frontend (BFF)模式,结合Keycloak和Angular构建一个安全的Web应用程序。为了避免在浏览器中存储敏感数据,该方案将所有与Keycloak交互的认证流程都委托给BFF服务器处理。BFF充当Keycloak和Angular应用之间的安全中介,管理OAuth2和PKCE流程,安全地存储令牌,并防止敏感操作(如令牌刷新)到达浏览器。Angular应用无需直接与Keycloak交互,只需与BFF提供的简化端点交互。文章详细讲解了Keycloak的配置、BFF服务器(使用Express.js)的搭建,以及Angular应用的开发,并强调了这种架构在提高安全性方面的优势。

阅读更多