以下为官网系列参考配置:
| 资源系列 | 单卡显存 | GPU 数量 | 系统内存 | CPU | 存储 | 参考用途 |
| A 系列 | 80GB | 8 卡 | 1TB | 双路 Intel Xeon | SSD | 模型训练、微调、推理 |
| H 系列 | 80–141GB,依型号配置 | 8 卡 | 2TB | 双路 Intel Xeon | SSD | 大模型训练、高并发推理 |
| RTX40 系列 | 24GB | 8 卡 | 512GB | 双路服务器 CPU | SSD | AI 生图、图形渲染、轻量微调 |
| RTX50 系列 | 32GB,依版本配置 | 8 卡 | 512GB | 双路 Intel Xeon | NVMe SSD | 内容生成、模型推理、图形渲染 |
一、GPU 型号与显存怎么选
除模型权重外,还应为训练状态、运行缓存和并发请求预留显存。多张 GPU 的显存能否被任务有效使用,取决于模型和并行方案;多卡或多机任务应核对卡间互联、网络与软件支持。
二、CPU 内存、存储选型要点
CPU 和系统内存应满足数据预处理、加载及服务进程的需求。存储需同时核对类型、可用容量和读写表现,并为模型、数据集、日志和检查点预留空间。报价方案中应区分系统盘、数据盘及附加存储。
三、网络与部署地域选择
说明期望地域、对外服务方式、数据迁移量及访问需求,并确认公网与内网带宽、IP 和端口安排。涉及多机训练、专线或特定隔离要求时,应在资源匹配前提出。
四、方案自查确认清单
获取方案时,逐项确认 GPU 具体型号、单卡显存、卡数与互联方式,CPU 型号及核数,系统内存,磁盘类型及容量,网络与地域,以及操作系统、驱动和框架版本。将最终配置与报价一并留存,作为测试和交付验收的依据。
五、如何判断配置是否合适
测试前约定模型、软件版本、数据规模及成功标准;比较方案时保持这些条件一致,同时记录数据传输、环境准备和任务执行所需时间。测试结论应对应具体任务与配置,后续更换模型或显著增加负载时,应重新评估。