本地运行大型语言模型:一位开发者的实践经验

2024-12-29
本地运行大型语言模型:一位开发者的实践经验

一位开发者分享了在个人电脑上运行大型语言模型(LLM)的经验。他使用一台配置强大的电脑(i9 CPU,4090 GPU,96GB RAM),结合Ollama、Open WebUI等开源工具,成功运行多个LLM,并用于代码补全、笔记查询等任务。文章详细介绍了使用的硬件、软件、模型以及更新方法,并强调了本地运行LLM带来的数据安全和低延迟优势。

阅读更多
开发

用开源方案让Apple Watch连接Android手机

2024-12-18
用开源方案让Apple Watch连接Android手机

作者克服重重困难,成功地将Apple Watch与Android手机连接,实现了健康追踪、通知、日历和联系人的同步。这并非易事,需要用到开源应用、互操作协议和第三方服务,甚至需要一台闲置的iPhone来辅助配置。作者详细描述了整个过程,并分享了其GitHub代码,为其他用户提供参考。这篇文章体现了开源精神和对技术自由的追求,也反映了对科技巨头封闭生态系统的反思。

阅读更多
科技