9 年前英伟达 Tesla V100 老将再战：4 GPU 集群 AI 推理跑赢 2 台 DGX Spark

10 月 12 日，YouTube 频道 Jun Yamog 发布了一段测评视频，展示了将 4 张 Tesla V100 显卡通过 NVLink 载板组合在一起后的性能表现。在 Qwen3.8-Flash-Next 基准测试中，这套配置在处理长提示时的速度比 M5 Ultra 快 230%，比 2 台 DGX Spark 快 40%。

根据公开资料，Tesla V100 是英伟达在 2017 年推出的数据中心级 GPU，基于 Volta 架构，广泛应用于 AI 训练和推理任务。其 32GB 版本搭载了 HBM2 显存，带宽达到 900GB/s，能够高效读取大模型的参数和数据。

NVLink 是英伟达开发的高速 GPU 互联技术，允许在多颗 GPU 之间直接交换数据。与 PCIe 通信相比，NVLink 能显著减少互联瓶颈，常见于多 GPU 服务器和 AI 计算集群中。

这款 NVLink 载板提供了 300GB/s 的带宽，并配备了 6 条 NVLink 2.0 连接。为了容纳 4 颗独立的 GPU，测试者对 NVIDIA A100 的散热器进行了改造，使其能够散发每颗 V100 约 300W 的功耗，并通过 PCIe x8 接口与载板相连。

测试中使用了 4-bit 量化的 Qwen3.8-Flash-Next 模型，对比对象包括 2 台配备 128GB LPDDR5X 统一内存的 DGX Spark，以及搭载 M5 Ultra 芯片的 Mac Studio 设备。

在长提示处理测试中，4 颗 V100 的组合比 DGX Spark 集群快了 40%，比 M5 Ultra 快了 230%。测试者指出，与 Apple Silicon 的较大差距可能部分源于软件优化不足。

在短提示处理测试中，V100 集群相比 DGX Spark 保持了 40% 的速度优势，比 M5 Ultra 快了 163%。这一结果表明，旧款数据中心 GPU 在特定推理负载中仍具备较高的吞吐能力。

在短提示 Token 生成测试中，4 颗 V100 达到了 100.6 tok/s，比 2 台 DGX Spark 快了 121%；而 M5 Ultra 的成绩为 44.5 tok/s。如需了解更多关于硬件性能对比的信息，可访问球盟会· (中国)-官方网站登录入口-QMH SPORTS获取详细分析。