https://rovertang.com/tags/%E6%A8%A1%E5%9E%8B%E9%83%A8%E7%BD%B2/罗孚传说记录罗孚在 AI、本地模型、地图、汽车与数字办公中的实践。面对真实问题，分享动手过程、试错经验，以及对技术和工作的独立思考。Hugo 0.167.0 & FixIt v1.0.0-alpha.3zh-CNSun, 13 Sep 2026 00:00:00 +0800https://rovertang.com/llm/dual-v100-local-llm/Sun, 13 Sep 2026 00:00:00 +0800https://rovertang.com/llm/dual-v100-local-llm/本地模型用两块 NVIDIA Tesla V100 SXM2 16GB 显卡、转接主板、8654 交叉线和定制机箱，组装出一块 32GB 的巨大显卡，并在 Ubuntu 24 下以 62 tokens/s 的速度运行 35B 千问模型。文章记录完整的硬件清单、散热与装机过程，也聊聊本地部署的成本、电费和模型选择。https://rovertang.com/llm/cpu-70b-server/Sun, 23 Feb 2025 00:00:00 +0800https://rovertang.com/llm/cpu-70b-server/本地模型通过对比服务器、小主机和工作站的优缺点，我发现一两千元搭建一台使用纯 CPU 推理 70B 大模型的服务器是完全可行的，性能不差，内存充足，总体很强大。https://rovertang.com/llm/home-deepseek-server/Mon, 03 Feb 2025 00:00:00 +0800https://rovertang.com/llm/home-deepseek-server/本地模型使用家用PC和家庭宽带，低成本部署DeepSeek大模型并实现互联网访问，从技术方案上看完全可行。然而，距离真正达到完全可用的程度，还有很长的路要走。