NVIDIA H100 PCIe 4.0
GPU卡
GPU的选择至关重要,直接关系到服务的核心算力、各种配件的应用范围和长期使用体验。
GPU
确定GPU配置(核心决策)GPU是AI服务器的灵魂,其他所有组件都围绕它来配置。
| 配件名称 | 品牌 | 型号 | 显存类型 | 最大功率 | 散热方案 | 显存大小 | 架构 | 参考价格 | |
|---|---|---|---|---|---|---|---|---|---|
NVIDIA H100 80GB | NVIDIA | H100 | HBM2e | 350 W | 涡轮 | 80 GB | Hopper | ¥ 1,500,000 |
数量
个
强烈建议不要混用4.0和5.0的GPU卡。为了充分发挥 PCIe 5.0 的性能,您应该使用支持 PCIe 5.0 的主板和CPU。
配件总价 ¥ 1,500,000
主板与机箱
GPU的选择直接限制了平台(主板和机箱)的选择。选择了 H100 PCIe,您仍然需要自主选择兼容的主板和机箱。
主板
| 配件名称 | 品牌 | 型号 | 参考价格 | ||
|---|---|---|---|---|---|
H13DSG-O | 超微 | H13DSG-O | ¥ 120,001 | ||
KRPA-U16 | 华硕 | KRPA-U16 | ¥ 6,000 |
每种主板型号支持的最大GPU数量不同。
机箱
| 配件名称 | 品牌 | 型号 | 机箱规格 | 参考价格 | |
|---|---|---|---|---|---|
4U 8-GPU机箱 | 超微 | SC747 | 4 U | ¥ 8,000 | |
2U 4-GPU机箱 | 戴尔 | R750 | ¥ 5,000 | ||
可选规格机箱 | 戴尔 | R751 | ¥ 1,000 |
如果您计划安装多张 H100,主板上 PCIe x16 插槽之间的物理间距至关重要。H100 采用涡轮散热,厚度通常为2槽,但如果插槽间距过近(如只留出2槽空间),
会导致第二张卡吸入前一张卡排出的废热,造成过热降频。
配件总价 ¥ 128,001
CPU与内存
CPU(中央处理器)和内存(RAM)的协同选择直接决定了整个系统的稳定性、响应速度和多任务处理能力。
CPU
选择CPU时,您不再需要担心与GPU的物理兼容性(主板已经确保了这一点),但需要关注其性能匹配和功能支持。
| 配件名称 | 品牌 | 型号 | 线程数量 | 时钟频率 | 核心数量 | 架构 | 参考价格 | |
|---|---|---|---|---|---|---|---|---|
Intel Xeon Platinum 8480+ | Intel | Xeon Platinum 8480+ | 8 个 | 4.0 GHz | 4 个 | Arm | ¥ 15,000 | |
AMD EPYC 9654 | AMD | EPYC 9654 | ¥ 12,000 | |||||
Intel Xeon Gold 6448Y | Intel | Xeon Gold 6448Y | ¥ 8,000 |
数量
个
内存
| 配件名称 | 品牌 | 型号 | 内存容量 | 参考价格 | |
|---|---|---|---|---|---|
DDR5-5600 64GB ECC RDIMM | 三星 | DDR5-4800 | 64 GB | ¥ 1,800 | |
128GB DDR5 4800MHz | 海力士 | DDR5-4800 | ¥ 3,500 | ||
32GB DDR5 4800MHz | 美光 | DDR5-4800 | ¥ 900 |
数量
个
配件总价 ¥ 39,000
存储
存储
用于存放海量训练数据集、模型文件、中间结果(Checkpoints)和日志。超大容量、高吞吐量。
| 配件名称 | 品牌 | 型号 | 存储类型 | 插槽类型 | 参考价格 | 操作 |
|---|---|---|---|---|---|---|
P5510 3.84TB NVMe | 英特尔 | P5510 | NVMe | PCIe4.0 | ¥ 4,500 |
配件总价 ¥ 4,500
网络
配置用于集群通信的高速网络和管理网络。集群通信:在多台服务器进行分布式AI训练时,用于在服务器间极速同步模型参数和梯度。
独立网卡
用于GPU服务器间同步模型数据,非集群模式下:1GPU配置1个高速网络卡
| 配件名称 | 品牌 | 型号 | 传输速率 | 端口个数 | 网络标准 | 参考价格 | 操作 |
|---|---|---|---|---|---|---|---|
Mellanox ConnectX-4 Lx 25GbE 网卡 | Mellanox | MCX4121A-ACAT | 1 G | 4 个 | IB(InfiniBand) | ¥ 2,499 |
集成网卡
Intel I225-V 2.5GbE
接口类型:PCIe x1 | 网络速度:2.5GbE/1GbE/100Mb/10Mb | 协议:IEEE 802.3 | 支持操作系统:Windows 10/11, Linux
配件总价 ¥ 2,499
电源
为高性能服务器配置电源,当选择CPU时,您不再需要担心与GPU的物理兼容性(因为主板已经确保了这一点)
电源
| 配件名称 | 品牌 | 型号 | 额定功率 | 参考价格 | 操作 |
|---|---|---|---|---|---|
海韵 PRIME PX-850 850W 金牌全模组电源 | Seasonic | PRIME PX-850 | 2500 W | ¥ 1,299 | |
海盗船 RM750x 750W 金牌全模组电源 | Corsair | RM750x | 1500 W | ¥ 899 |
配件总价 已包含
产品权益
软性商品与售后服务
服务总价 ¥ 75,000
配置清单
| 配件 | 名称 | 品牌 | 型号 | 配置 | 数量 | 报价 |
|---|---|---|---|---|---|---|
GPU | NVIDIA H100 80GB | NVIDIA | H100 | 显存类型:HBM2e 最大功率:350 W 散热方案:涡轮 显存大小:80 GB 架构:Hopper | 1 | ¥1,500,000 |
主板 | H13DSG-O | 超微 | H13DSG-O | 1 | ¥120,001 | |
机箱 | 4U 8-GPU机箱 | 超微 | SC747 | 机箱规格:4 U | 1 | ¥8,000 |
CPU | Intel Xeon Platinum 8480+ | Intel | Xeon Platinum 8480+ | 线程数量:8 个 时钟频率:4.0 GHz 核心数量:4 个 架构:Arm | 2 | ¥30,000 |
内存 | DDR5-5600 64GB ECC RDIMM | 三星 | DDR5-4800 | 内存容量:64 GB | 5 | ¥9,000 |
存储 | P5510 3.84TB NVMe | 英特尔 | P5510 | 存储类型:NVMe 插槽类型:PCIe4.0 | 1 | ¥4,500 |
独立网卡 | Mellanox ConnectX-4 Lx 25GbE 网卡 | Mellanox | MCX4121A-ACAT | 传输速率:1 G 端口个数:4 个 网络标准:IB(InfiniBand) | 1 | ¥2,499 |
集成网卡 | Intel I225-V 2.5GbE | Intel | Intel 2.5千兆以太网控制器,提供高速有线网络连接 | 传输速率:1 G 端口个数:4 个 端口类型:光口 网络标准:IB(InfiniBand) | 1 | 已包含 |
电源 | 海韵 PRIME PX-850 850W 金牌全模组电源 | Seasonic | PRIME PX-850 | 额定功率:2500 W | 1 | 已包含 |
海盗船 RM750x 750W 金牌全模组电源 | Corsair | RM750x | 额定功率:1500 W | 1 | 已包含 |
附加服务
软性商品与售后服务
赠送3年整机质保赠送3独立显卡免费上门维修
服务总价 ¥ 75,000