硬件选型 on AI 观察https://ai.wujiong.cc/tags/%E7%A1%AC%E4%BB%B6%E9%80%89%E5%9E%8B/Recent content in 硬件选型 on AI 观察Hugozh-CNMon, 07 Sep 2026 11:51:06 +0800大模型推理 GPU 选型：显存、带宽与性价比怎么权衡https://ai.wujiong.cc/posts/2026-09-07-gpu-selection-llm/Mon, 07 Sep 2026 11:51:06 +0800https://ai.wujiong.cc/posts/2026-09-07-gpu-selection-llm/<p>决定自建大模型推理服务后，第一个问题就是：买什么 GPU？用多少张？很多人只看算力指标，结果发现显存不够、模型放不下；或者买了高端卡，实际利用率却很低。<strong>大模型推理对硬件的需求与传统深度学习训练不同，显存容量和显存带宽往往比峰值算力更关键。</strong> 理解这些指标的含义，才能做出性价比合理的选择。</p>