近期我们复盘了一个面向 AI 训练场景的 GPU 集群交付项目。这类项目的共同特点是：算力密度高、交付周期紧、后续还要持续扩容。以下是我们在方案设计、设备选型与实施环节的一些体会。

算力密度决定了机房条件

GPU 服务器的功率密度通常远高于普通机架服务器，一台满载的高密机箱可能相当于十几台传统服务器的功耗。因此，方案设计阶段必须先确认三件事：机柜可用电力余量、机房制冷能力是否满足、楼板承重是否允许。这三件事不落实，设备到货也无法上架。在本次项目中，我们与客户一起调整了机柜排布，把高密设备集中放置在散热条件更好的区域，并对风道进行了重新梳理。

互联拓扑比单卡性能更影响效率

在多数训练场景下，多机多卡之间的通信效率往往成为瓶颈。因此网络设计要重点关注：节点间互联带宽、交换机层级带来的延迟、是否有足够的上联能力。我们的做法是把训练网、管理网与存储网物理或逻辑隔离，避免相互干扰，并为后续横向扩容预留端口。

交付节奏：硬件先行，软件并行

硬件到货周期通常不可控，软件环境却可以提前准备。实践中我们把基础环境的标准化安装脚本、驱动版本矩阵、常用框架镜像在设备到货前就准备完毕，设备到位后即进入批量部署阶段，把原本需要串行的工作并行推进，压缩整体交付时间。

验收不能只看单点指标

单卡跑分容易好看，集群表现才是关键。验收环节我们同时关注三类指标：满载状态下的稳定性与降频情况、多机训练时的线性加速比、长时间运行的故障率。此外还要验证断电、断网等异常情况下的恢复流程，确保数据可恢复。

为扩容留余地

AI 业务的算力需求增长往往快于预期。在项目初期就约定好后续扩容的接口条件——包括电力预留、制冷余量、机柜空间与网络端口，比事后扩容要顺畅得多。这也是我们在这类项目中反复向客户强调的一点。