低成本搭建个人私有AI电脑：一次充满挑战的硬件之旅
2025-02-11
面对昂贵的云端AI服务和潜在的审查风险，作者决定自己动手搭建一台经济实惠的私有AI电脑。文章详细记录了作者用二手HP Z440工作站，搭配两块二手Nvidia Tesla P40 GPU（共48GB VRAM），以及其他一些必要的配件，最终以约1700欧元的价格完成了搭建过程。过程中遇到了诸多挑战，例如GPU散热、电源接口适配等，作者都一一克服，并分享了详细的解决方案和经验。最终测试结果表明，这套系统能够流畅运行中等规模的LLM，实现了对AI模型的完全自主控制。
硬件
个人私有云