NVIDIA H100 PCIe 4.0

GPU卡

GPU的选择至关重要,直接关系到服务的核心算力、各种配件的应用范围和长期使用体验。

GPU

确定GPU配置(核心决策)GPU是AI服务器的灵魂,其他所有组件都围绕它来配置。

配件名称品牌型号显存类型最大功率散热方案显存大小架构参考价格
NVIDIA H100 80GB
NVIDIA
H100
HBM2e
350 W
涡轮
80 GB
Hopper
¥ 1,500,000
数量

强烈建议不要混用4.0和5.0的GPU卡。为了充分发挥 PCIe 5.0 的性能,您应该使用支持 PCIe 5.0 的主板和CPU。

配件总价 ¥ 1,500,000

主板与机箱

GPU的选择直接限制了平台(主板和机箱)的选择。选择了 H100 PCIe,您仍然需要自主选择兼容的主板和机箱。

主板
配件名称品牌型号参考价格
H13DSG-O
超微
H13DSG-O
¥ 120,001
KRPA-U16
华硕
KRPA-U16
¥ 6,000

每种主板型号支持的最大GPU数量不同。

机箱
配件名称品牌型号机箱规格参考价格
4U 8-GPU机箱
超微
SC747
4 U
¥ 8,000
2U 4-GPU机箱
戴尔
R750
¥ 5,000
可选规格机箱
戴尔
R751
¥ 1,000

如果您计划安装多张 H100,主板上 PCIe x16 插槽之间的物理间距至关重要。H100 采用涡轮散热,厚度通常为2槽,但如果插槽间距过近(如只留出2槽空间),
会导致第二张卡吸入前一张卡排出的废热,造成过热降频。

配件总价 ¥ 128,001

CPU与内存

CPU(中央处理器)和内存(RAM)的协同选择直接决定了整个系统的稳定性、响应速度和多任务处理能力。

CPU

选择CPU时,您不再需要担心与GPU的物理兼容性(主板已经确保了这一点),但需要关注其性能匹配和功能支持。

配件名称品牌型号线程数量时钟频率核心数量架构参考价格
Intel Xeon Platinum 8480+
Intel
Xeon Platinum 8480+
8 个
4.0 GHz
4 个
Arm
¥ 15,000
AMD EPYC 9654
AMD
EPYC 9654
¥ 12,000
Intel Xeon Gold 6448Y
Intel
Xeon Gold 6448Y
¥ 8,000
数量
内存
配件名称品牌型号内存容量参考价格
DDR5-5600 64GB ECC RDIMM
三星
DDR5-4800
64 GB
¥ 1,800
128GB DDR5 4800MHz
海力士
DDR5-4800
¥ 3,500
32GB DDR5 4800MHz
美光
DDR5-4800
¥ 900
数量
配件总价 ¥ 39,000

存储

存储

用于存放海量训练数据集、模型文件、中间结果(Checkpoints)和日志。超大容量、高吞吐量。

配件名称品牌型号存储类型插槽类型参考价格操作
P5510 3.84TB NVMe
英特尔
P5510
NVMe
PCIe4.0
¥ 4,500
配件总价 ¥ 4,500

网络

配置用于集群通信的高速网络和管理网络。集群通信:在多台服务器进行分布式AI训练时,用于在服务器间极速同步模型参数和梯度。

独立网卡

用于GPU服务器间同步模型数据,非集群模式下:1GPU配置1个高速网络卡

配件名称品牌型号传输速率端口个数网络标准参考价格操作
Mellanox ConnectX-4 Lx 25GbE 网卡
Mellanox
MCX4121A-ACAT
1 G
4 个
IB(InfiniBand)
¥ 2,499
集成网卡
Intel I225-V 2.5GbE

接口类型:PCIe x1 | 网络速度:2.5GbE/1GbE/100Mb/10Mb | 协议:IEEE 802.3 | 支持操作系统:Windows 10/11, Linux

配件总价 ¥ 2,499

电源

为高性能服务器配置电源,当选择CPU时,您不再需要担心与GPU的物理兼容性(因为主板已经确保了这一点)

电源
配件名称品牌型号额定功率参考价格操作
海韵 PRIME PX-850 850W 金牌全模组电源
Seasonic
PRIME PX-850
2500 W
¥ 1,299
海盗船 RM750x 750W 金牌全模组电源
Corsair
RM750x
1500 W
¥ 899
配件总价 已包含

产品权益

软性商品与售后服务
服务总价 ¥ 75,000

配置清单

配件名称品牌型号配置数量报价
GPU
NVIDIA H100 80GB
NVIDIA
H100
显存类型:HBM2e
最大功率:350 W
散热方案:涡轮
显存大小:80 GB
架构:Hopper
11,500,000
主板
H13DSG-O
超微
H13DSG-O
1120,001
机箱
4U 8-GPU机箱
超微
SC747
机箱规格:4 U
18,000
CPU
Intel Xeon Platinum 8480+
Intel
Xeon Platinum 8480+
线程数量:8
时钟频率:4.0 GHz
核心数量:4
架构:Arm
230,000
内存
DDR5-5600 64GB ECC RDIMM
三星
DDR5-4800
内存容量:64 GB
59,000
存储
P5510 3.84TB NVMe
英特尔
P5510
存储类型:NVMe
插槽类型:PCIe4.0
14,500
独立网卡
Mellanox ConnectX-4 Lx 25GbE 网卡
Mellanox
MCX4121A-ACAT
传输速率:1 G
端口个数:4
网络标准:IB(InfiniBand)
12,499
集成网卡
Intel I225-V 2.5GbE
Intel
Intel 2.5千兆以太网控制器,提供高速有线网络连接
传输速率:1 G
端口个数:4
端口类型:光口
网络标准:IB(InfiniBand)
1已包含
电源
海韵 PRIME PX-850 850W 金牌全模组电源
Seasonic
PRIME PX-850
额定功率:2500 W
1已包含
海盗船 RM750x 750W 金牌全模组电源
Corsair
RM750x
额定功率:1500 W
1已包含

附加服务

软性商品与售后服务
赠送3年整机质保赠送3独立显卡免费上门维修
服务总价 ¥ 75,000
总价:1,674,000