ReelOS.AI 禅定|这篇文章先记住一句话

AI Compute Fabric 不是“更快的网线”,而是 GPU 集群的算力组织方式。

  1. GPU 很贵。
  2. 但 GPU 越多,越依赖协同,而不是单卡性能。
  3. 协同分两层:节点内 Scale-up,节点间 Scale-out。
  4. Scale-up 解决一台服务器 / 一个机箱内 GPU 的高速互连,典型技术是 NVLink、NVSwitch、PCIe。
  5. Scale-out 解决服务器之间、机柜之间、集群之间的高速通信,典型技术是 InfiniBand、RoCE、RDMA。
  6. 训练和推理都会产生大量 GPU 间数据交换。
  7. 数据交换慢,GPU 就等待;GPU 等待,就是算力浪费。
  8. RDMA 减少 CPU 参与和内存拷贝,降低通信延迟。
  9. RoCE 在以太网上实现 RDMA,让以太网也能服务 AI 集群通信。
  10. 所以 AI Compute Fabric 的核心,不是连接 GPU,而是减少 GPU 空转,把理论算力变成有效算力。

过去理解数据中心,很多人会把 GPU、CPU、存储、网络分开看。

GPU 是算力。存储是数据。网络是连接。运维是保障。

但 AI 工厂改变了这个分工。

当训练任务从单机走向上千卡、上万卡,网络不再只是“把服务器连起来”的配套设施,而是决定 GPU 能不能一起工作的核心系统。

更准确地说,AI 工厂采购的不是一堆 GPU,也不是一批交换机,而是一套能够持续交付有效算力的系统。

这里的关键词不是 theoretical FLOPS,而是 effective compute

也就是:

买来的理论算力,有多少真正转化成了训练吞吐、推理吞吐和单位时间内可交付的 Token。

这就是为什么 InfiniBand、RoCE、Spectrum-X、Ultra Ethernet 会成为 AI 基础设施里的高频词。

它们不是简单的网络名词,而是几种不同的 AI Compute Fabric 构建路线。

AI Compute Fabric 五层学习地图:通信模式、传输机制、网络路线、系统平台和产业选择。
不要一上来争 IB 还是 RoCE。先建立五层地图:GPU 到底在通信什么、数据如何传输、Fabric 走哪条路线、谁把它平台化、企业如何选择。

一、核心判断:AI 工厂的瓶颈,正在从“有没有 GPU”转向“GPU 能不能协同”

AI 集群不是把 GPU 堆在一起就完成了。

大模型训练通常会把模型、数据、梯度、激活值和专家路由拆分到不同 GPU 上。GPU 在本地完成一段计算之后,必须与其他 GPU 交换信息,才能进入下一轮计算。

这意味着 AI 训练不是单点计算,而是同步计算。

如果通信慢,GPU 就会等待。

如果网络拥塞,GPU 就会空转。

如果尾延迟抬高,整个训练 step 就会被慢节点拖住。

如果多任务互相干扰,集群利用率就会下降。

所以,AI 工厂里的网络价值,不应该只按“交换机多少钱、端口多少、速率多高”来理解,而应该按它保护了多少 GPU 时间来理解。

一句话:

在 AI 工厂里,网络不是连接 GPU 的成本项,而是把 GPU 时间转化为有效算力的放大器。

二、学习地图:先建立完整知识框架

要理解 AI 工厂网络,可以按五层学习。

层级要回答的问题关键词
第 1 层:通信模式GPU 之间到底在传什么?AllReduce、ReduceScatter、AllGather、AllToAll
第 2 层:传输机制数据如何绕开 CPU 高效传输?RDMA、GPUDirect RDMA、NIC、PCIe
第 3 层:网络路线跨服务器 GPU 通信走哪种 Fabric?InfiniBand、RoCE、Ethernet
第 4 层:系统平台谁把网卡、交换机、拥塞控制、遥测做成端到端系统?Spectrum-X、UFM、AI Ethernet
第 5 层:产业选择企业应该选哪条路线?性能确定性、开放生态、运维复杂度、厂商绑定、有效带宽

这篇文章的目标不是让你记住几个网络名词,而是建立一张判断地图:

当一个 AI 集群性能不达预期时,你知道应该从哪里定位问题;当你选择 IB、RoCE 或 Spectrum-X 时,你知道自己真正选择的是什么。

三、AI Compute Fabric 到底是什么?

Fabric 直译是“织物”或“网状结构”。

在 AI 基础设施里,Fabric 指的不是某一根网线、某一台交换机,而是一套让大量计算节点协同工作的通信系统。

它包括:

组成作用
NIC / SuperNIC服务器侧的网络入口,负责高速收发、RDMA、拥塞控制等
Switch交换转发,决定流量如何穿过集群
Topology拓扑结构,例如 Fat Tree、Dragonfly、多平面网络
RDMA让数据绕开 CPU 和内核路径,直接在内存之间传输
GPUDirect RDMA让网卡与 GPU 显存之间建立更直接的数据通路
Congestion Control拥塞发现、标记、降速、分流
Telemetry采集队列、丢包、延迟、链路、作业等状态
RuntimeNCCL、MPI、DeepEP、训练框架等通信运行时
Operations部署、调优、告警、故障定位、容量规划

所以,AI Compute Fabric 可以这样理解:

AI Compute Fabric 是连接 GPU 集群的高性能通信系统,它的目标不是“连通”,而是让分布式计算在高负载、大规模、多任务情况下保持高有效带宽、低尾延迟和可预测性能。

AI Compute Fabric 由 NIC、Switch、Topology、RDMA、Telemetry、Runtime 和 Operations 共同组成。
Fabric 不是网络设备清单,而是数据路径、控制机制、通信库和运维系统共同形成的执行层。

四、NCCL:理解 AI 网络的入口

很多人谈 AI 网络,一上来就谈交换机和端口速率。

这容易误入歧途。

真正应该先看的,是 AI 训练的通信原语。

NVIDIA NCCL 是 GPU 集合通信库,官方文档列出了 AllReduce、Broadcast、Reduce、AllGather、ReduceScatter、AlltoAll、Gather、Scatter 等 collective operations。其中 AllReduce 会把多个 rank 的数据规约后分发给所有 rank;ReduceScatter 会规约后把结果切分给不同 rank;AlltoAll 则是每个 rank 向其他 rank 发送不同数据并接收不同数据。

这几个操作决定了 AI 网络为什么特殊。

并行方式典型通信网络压力
数据并行 Data ParallelAllReduce / ReduceScatter梯度同步,流量大,强同步
张量并行 Tensor ParallelAllGather / ReduceScatter层内高频通信,对延迟敏感
流水并行 Pipeline ParallelSend / Receive阶段间传输,受调度和 bubble 影响
专家并行 Expert Parallel / MoEAllToAllToken 动态路由,热点难预测,尾延迟敏感

普通互联网业务可以容忍少量请求晚一点返回。

大规模同步训练不能轻易容忍某些 GPU 长时间掉队。因为一个慢节点,可能拖住整个 step。

五、RDMA:为什么 AI 网络不能只靠 CPU 转发?

RDMA 的全称是 Remote Direct Memory Access,即远程直接内存访问。

它的核心价值是减少 CPU 参与和内存拷贝,让一台机器上的数据更直接地写入另一台机器的内存区域。

在 GPU 集群里,更关键的是 GPUDirect RDMA。NVIDIA 官方文档说明,GPUDirect RDMA 允许 GPU 与第三方 PCIe 设备之间建立直接数据交换路径,网络接口卡就是典型的第三方设备之一。

这意味着,在理想路径下,GPU 通信不必每次都绕到 CPU 和系统内存里做多次拷贝。

可以简化成:

传统路径更高效路径
GPU → CPU 内存 → 内核网络栈 → NIC → 网络 → NIC → CPU 内存 → GPUGPU 显存 ↔ NIC ↔ 网络 ↔ NIC ↔ GPU 显存

这就是 InfiniBand 和 RoCE 都高度关注 RDMA 的原因。

它们真正解决的不是“网络能不能通”,而是“GPU 与 GPU 之间的数据交换能不能少走弯路”。

六、系统位置:网络在 AI 工厂里处在哪一层?

一个 AI 工厂可以分成四个关键层次。

层级代表组件解决的问题
单卡计算层GPU、HBM单个 GPU 的计算与显存能力
机内互连层NVLink、PCIe、NVSwitch一台服务器或一个 rack 内 GPU 之间的高速通信
跨节点 Fabric 层InfiniBand、RoCE、Spectrum-X、UEC多台服务器、多机柜、多集群之间的通信
调度与运行时层NCCL、MPI、Kubernetes、Slurm、训练框架任务如何切分、调度、通信、恢复

InfiniBand、RoCE、Spectrum-X 主要处在第三层:跨节点 Fabric 层。

这也是 AI 集群从“几台机器”走向“大规模工厂”时最容易出问题的一层。

原因很简单:

机内通信距离短、拓扑固定、可控性强。

跨节点通信距离长、路径多、交换层级多、拥塞点多、故障面也更大。

所以,当 GPU 数量从几十张扩到几千张,网络问题会从“偶发性能抖动”变成“系统性算力损耗”。

七、三条路线:InfiniBand、RoCE、Spectrum-X 分别是什么?

先给结论:

名称本质核心价值核心代价
InfiniBand专用高性能互连体系高性能、低延迟、确定性、HPC 生态成熟生态相对独立,供应和运维体系更专用
RoCE在以太网上承载 RDMA 的技术路线复用以太网生态,供应链更开放,部署更灵活调优复杂,对拥塞控制、队列、PFC/ECN、遥测要求高
Spectrum-XNVIDIA 面向 AI 负载构建的端到端以太网平台把 RoCE、SuperNIC、交换机、遥测、拥塞控制做成全栈平台更偏 NVIDIA 全栈路线,需要权衡厂商绑定和开放性

这三者不是完全平行的概念。

InfiniBand 是一套专用网络体系。

RoCE 是一种在以太网上实现 RDMA 的技术路线。

Spectrum-X 是 NVIDIA 基于以太网和 RoCE,为 AI 工作负载做的端到端平台。

这是理解全文的关键。

InfiniBand、RoCE 与 Spectrum-X 三条 AI Compute Fabric 路线对比。
三者不是同一层级:InfiniBand 是专用体系,RoCE 是协议路线,Spectrum-X 是把以太网路线做成端到端平台。

1. InfiniBand:用专用体系换确定性

InfiniBand 长期被高性能计算和大规模 AI 训练采用,不只是因为它“快”。

它的价值在于端到端体系。

NVIDIA 对 Quantum InfiniBand 的介绍中强调了 In-Network Computing、SHARP、QoS、拥塞控制、自适应路由、自修复网络以及面向 AI/HPC 的大规模部署能力。

这说明 InfiniBand 的优势不是某一个参数,而是系统确定性。

它更像一条专用高速铁路:

  • 轨道是专用的;
  • 调度体系是统一的;
  • 车辆规格是适配的;
  • 拥塞和故障恢复机制是内建的;
  • 面向 HPC / AI 集体通信做了长期优化。

对于大规模同步训练,这种确定性很重要。

因为训练性能不只看平均吞吐,还看最慢 step、最差链路、最拥塞时刻、故障恢复期间的性能波动。

InfiniBand 的核心优势可以总结为:

当你追求极致性能、低延迟和可预测集群行为时,InfiniBand 仍然是最成熟的高性能互连路线之一。

它的代价也明显:体系更专用,设备、软件、运维和人才体系都更接近 HPC 世界,不像以太网那样广泛融入传统云数据中心生态。

2. RoCE:把 RDMA 带进以太网,但把复杂度带给工程团队

RoCE 的全称是 RDMA over Converged Ethernet。

它的目标很直接:

在以太网上实现 RDMA。

这对云厂商和企业数据中心很有吸引力,因为它们本来就有大量以太网设备、布线、光模块、交换机和运维体系。

RoCE 的难点不是“能不能跑起来”,而是“能不能在大规模、高负载、同步通信下稳定跑”。

RoCE 网络通常要处理:

工程项作用
PFC优先级流控,用于降低特定队列丢包
ECN显式拥塞标记,让端侧知道网络开始拥塞
DCQCN数据中心量化拥塞通知,结合 ECN / PFC 进行速率调节
Queue / Buffer队列和缓存规划,避免热点和队头阻塞
ECMP / Load Balancing多路径负载均衡
Telemetry链路、队列、丢包、延迟、PFC pause、作业性能监控
QoS多业务、多租户、多任务隔离
TopologyFat Tree、Clos、多平面、机柜域设计

RoCE 的本质是一种权衡:

用开放的以太网生态换部署灵活性,同时把更高的系统调优复杂度交给网络工程、运维和平台团队。

所以,RoCE 不是“普通以太网插上 GPU 就能跑 AI 训练”。

更准确地说:

RoCE 是以太网生态进入 AI 高性能互连的主流路线,但它需要被当作一套工程系统设计,而不是一项网卡功能开关。

3. Spectrum-X:NVIDIA 把 AI Ethernet 做成端到端平台

Spectrum-X 经常被拿来和 InfiniBand、RoCE 放在一起比较,但它不是第三种独立协议。

Spectrum-X 是 NVIDIA 面向 AI 负载构建的以太网平台。

NVIDIA 官方介绍中,Spectrum-X 包括 Spectrum-X Ethernet Switches 和 Spectrum-X Ethernet SuperNICs,并强调它面向 AI training 和 distributed inference,提供 GPU-to-GPU 通信所需的高有效带宽和性能隔离。官方还提到 Spectrum-X Multiplane 能通过两层拓扑扩展到 128K GPUs。

这说明 Spectrum-X 的定位不是“新协议”,而是“AI Ethernet 平台化”。

它试图解决 RoCE 的核心痛点:

  • RoCE 有开放生态,但调优复杂;
  • 普通以太网负载均衡不理解 AI 通信节奏;
  • 单纯靠交换机无法完整解决 GPU 通信问题;
  • 多租户、多任务、故障恢复和遥测需要端到端闭环。

所以 Spectrum-X 的核心逻辑是:

让网卡、交换机、拥塞控制、遥测和 AI 通信软件协同工作,把以太网改造成更适合 AI 工厂的 Compute Fabric。

一句话总结:

Spectrum-X 是 NVIDIA 对 RoCE 以太网的“AI 工厂封装”:把开放以太网路线做成更接近 InfiniBand 确定性的产品平台。

八、为什么 AI 网络越来越重要?

第一,因为 AI 训练越来越同步。

大模型训练不是一堆 GPU 独立工作。它们必须在大量 step 中反复同步。只要有一部分通信慢下来,其他 GPU 就可能等待。

这就是所谓的 straggler effect:少量慢节点拖住整体。

AI 训练不是看某条链路的峰值,而是看整个通信系统在高负载下的稳定性。

第二,因为 MoE 把网络压力进一步放大。

传统 Dense 模型已经需要大量 AllReduce、ReduceScatter、AllGather。MoE 模型则引入了更多 AllToAll 通信。

因为每个 Token 可能被路由到不同专家,而专家又可能分布在不同 GPU、不同服务器甚至不同机柜。

这会带来三个变化:

变化影响
通信更动态Token 路由不同,热点更难预测
流量更碎片化小包、突发、跨节点通信增加
尾延迟更重要某些专家过载会拖慢整体推理或训练

第三,因为单位 Token 成本开始取决于系统效率。

AI 基础设施最终要回到经济账。

对于训练,网络影响的是训练周期、GPU 利用率、实验迭代速度、作业失败和重启成本、多任务并发效率。

对于推理,网络影响的是吞吐、延迟、TTFT、ITL、多租户隔离和单位 Token 成本。

所以,AI 网络被重新定价的根本原因是:

网络节省的不是网络成本,而是 GPU 时间、机房资源、电力资源和模型迭代窗口。

从理论 FLOPS 到有效算力,网络、拥塞、故障和调度决定 Goodput。
端口速率只是输入。AI 工厂真正要优化的是 Goodput:理论算力经过通信、调度、拥塞和故障之后,还剩多少可以交付给训练和推理。

九、产业逻辑:不是协议之争,而是三种建厂方式之争

1. InfiniBand 路线:专用体系优先

适合:

  • 超大规模训练集群;
  • 对性能确定性要求极高的场景;
  • 团队愿意采用完整高性能互连体系;
  • 更重视稳定交付,而不是多厂商开放选择。

核心问题:

我是否愿意为更强确定性接受更专用的技术栈?

2. RoCE 路线:开放生态优先

适合:

  • 已经有强以太网基础设施的云厂商;
  • 希望复用交换机、光模块、布线和运维体系的企业;
  • 有能力做网络调优、遥测、自动化和故障定位的团队;
  • 希望降低对单一专用网络体系依赖的客户。

核心问题:

我是否有足够强的网络工程能力,把开放以太网调成高性能 AI Fabric?

3. Spectrum-X 路线:以太网平台化

适合:

  • 希望采用以太网,但又不想完全自行承担 RoCE 调优复杂度的客户;
  • 已经大规模采购 NVIDIA GPU 的 AI 工厂;
  • 希望网卡、交换机、AI 通信软件和遥测体系更紧密协同的团队;
  • 需要多租户性能隔离、故障恢复和大规模扩展能力的云厂商。

核心问题:

我是否愿意用 NVIDIA 全栈平台换取更强的端到端优化?

4. Ultra Ethernet 路线:开放标准重构高性能以太网

除了 Spectrum-X 这种厂商全栈路线,另一个重要方向是 Ultra Ethernet Consortium。

UEC 在 2025 年 6 月发布 Specification 1.0,官方说明它覆盖 NIC、交换机、光互连、线缆等多个层面,目标是为 AI 和 HPC 工作负载提供开放、可互操作的高性能以太网栈。

更值得关注的是 UET,也就是 Ultra Ethernet Transport。

Ultra Ethernet 的突出贡献之一,是尝试从传输层、拥塞控制、互操作标准和硬件实现上重构高性能以太网。

未来 AI 网络的产业格局,很可能不是简单的“InfiniBand 被以太网取代”,而是形成三层市场:

市场层次可能路线
极致性能与确定性InfiniBand
超大规模开放云基础设施RoCE / UEC / UET
NVIDIA GPU 全栈 AI 工厂Spectrum-X / InfiniBand 双路线并存

十、容易被误读的地方

常见表达可能误读更准确的理解
网络成为算力的一部分网络变成了计算芯片网络不是计算芯片,但它决定理论算力能转化成多少有效算力
Spectrum-X 与 InfiniBand、RoCE 一起讨论三者是同一层级的协议InfiniBand 是体系,RoCE 是协议路线,Spectrum-X 是端到端以太网平台
RoCE 把 RDMA 带到以太网普通以太网直接升级就能跑 AI 训练RoCE 需要拥塞控制、队列、PFC / ECN、遥测、拓扑和端侧调优
早期强调无损网络,现在强调端到端拥塞控制PFC 已经过时或不重要PFC 仍常见,但行业希望减少对全局暂停机制的过度依赖
以太网会取代 InfiniBand 吗?未来只有一个赢家更可能是市场分层:极致性能、开放云、全栈平台各有选择
看 400G / 800G 速率端口速率等于训练性能AI 网络更应该看有效带宽、尾延迟、隔离能力、故障恢复和 NCCL 性能

十一、如何选择 AI 网络路线?

如果你是算力供应商、云厂商、企业基础设施团队,不要先问“IB 还是 RoCE”。

应该先问五个问题。

AI 网络路线选择矩阵:工作负载、集群规模、团队能力、供应链目标和优化指标。
AI 网络选型不是协议投票,而是在工作负载、规模、团队能力、供应链和指标约束下,选择最能稳定交付有效算力的路线。

1. 工作负载是什么?

工作负载网络重点
Dense LLM 训练AllReduce / ReduceScatter 有效带宽
MoE 训练AllToAll、热点、负载均衡、尾延迟
分布式推理TTFT、ITL、多租户隔离
RAG / Agent 工作负载存储网络、东西向流量、任务调度
多租户云服务性能隔离、QoS、可观测性

2. 集群规模是多少?

规模网络策略
8–64 GPU重点看机内互连、基础 RoCE / IB 配置
128–1024 GPU开始关注拓扑、NCCL 调优、拥塞控制
1000–10000 GPUFabric 设计、遥测、自动化、故障隔离成为核心
10000+ GPU需要平台级设计,不能靠人工调参

3. 团队能力在哪里?

团队能力更适合路线
HPC / 超算经验强InfiniBand
以太网云网络经验强RoCE / UEC
NVIDIA 全栈部署能力强Spectrum-X
网络团队薄弱尽量选择更完整的交付方案,而不是拼装式方案

4. 供应链目标是什么?

目标倾向
最快交付高性能训练集群InfiniBand / Spectrum-X
多厂商供应选择Ethernet / UEC
与现有云网络融合RoCE
与 NVIDIA GPU 平台深度协同Spectrum-X / InfiniBand

5. 真正要优化的指标是什么?

不要只看端口速率、单链路带宽、交换机容量、设备单价。

更应该看:

指标含义
NCCL Bus Bandwidth通信库真实可用带宽
Step Time训练单步耗时
P95 / P99 Latency尾延迟
MFU模型 FLOPS 利用率
Job Completion Time作业完成时间
Goodput有效吞吐,而不是理论吞吐
Failure Recovery Time链路或节点故障后的恢复时间
Tenant Isolation多任务互不干扰能力

AI 网络选型的核心不是:

哪个协议更先进?

而是:

哪条路线能在你的工作负载、团队能力和预算条件下,交付最高有效算力?

十二、对创业者、产品经理和基础设施团队的启发

1. 对创业者:AI 基础设施的机会不只在 GPU

很多创业者看到 AI 基础设施,只想到 GPU 租赁。

但真正的机会在有效算力交付。

未来客户不会只问:“你有多少张卡?”

客户会越来越关心:

  • 训练能不能稳定跑完?
  • NCCL 性能怎么样?
  • 多租户是否互相影响?
  • 故障后多久恢复?
  • 推理延迟是否稳定?
  • 单位 Token 成本有没有优势?
  • 是否有完整监控、调优和诊断能力?

所以,算力创业不是简单卖 GPU 小时,而是卖一套可交付、可观测、可优化的 AI Compute Platform。

GPU 是资产入口。

网络是效率杠杆。

调度是运营系统。

监控是信任基础。

成本模型是商业闭环。

2. 对产品经理:把网络能力产品化,而不是停留在工程黑盒

AI 网络很容易被藏在工程团队内部。

但真正成熟的 AI 云平台,应该把网络能力产品化。

例如:

产品能力用户价值
集群健康评分让客户知道集群是否适合训练
NCCL Benchmark 报告让客户看到真实通信能力
网络拥塞热力图帮助定位慢任务和热点链路
作业级网络画像解释为什么某个训练任务变慢
多租户隔离等级给企业客户 SLA 信心
故障影响分析告诉客户链路故障是否影响训练
Token 成本拆解把网络效率映射到业务成本

产品经理应该理解:

AI 云平台卖的不是机器,而是确定性。

确定性越强,客户越愿意把核心训练和推理任务放上来。

3. 对基础设施团队:RoCE 不是采购问题,是系统工程问题

如果选择 RoCE,千万不要把它看成“买支持 RoCE 的网卡和交换机”。

真正要建设的是一套 RoCE Fabric 工程体系:

模块关键工作
拓扑设计Clos、Fat Tree、多平面、机柜域
队列规划PFC 优先级、buffer、QoS
拥塞控制ECN、DCQCN、端侧速率调节
路径均衡ECMP、adaptive routing、流量打散
遥测系统队列深度、PFC pause、drop、latency、NCCL 指标
自动化配置一致性、基线检查、变更回滚
BenchmarkNCCL Tests、OSU、真实训练 replay
故障演练链路故障、交换机故障、节点抖动、性能退化定位

RoCE 的价值来自开放以太网生态。

RoCE 的风险也来自开放系统复杂度。

没有自动化、遥测和基准测试,RoCE 很容易变成“能跑,但不稳定;便宜,但不好交付”。

4. 对投资人和产业观察者:AI 网络正在成为算力产业的新定价层

未来 AI 基础设施的估值,不应该只看 GPU 数量。

更应该看:

  • GPU 利用率;
  • 网络有效带宽;
  • 作业成功率;
  • 多租户隔离能力;
  • 自动化运维能力;
  • 单位 Token 成本;
  • 客户任务留存;
  • 大规模扩展能力。

当 GPU 成为昂贵资产,所有能提升 GPU 利用率的系统都会被重新定价。

这包括高性能网络、光互连、DPU / SuperNIC、调度系统、遥测系统、故障定位系统、训练和推理优化框架。

这也是为什么 AI 网络从“设备采购项”变成了“算力资产效率层”。

十三、结语:未来的算力竞争,是 Fabric 竞争

AI 工厂不是数据中心换了一个名字。

它是一种新的计算组织方式。

在这个系统里:

GPU 决定单点计算能力。

HBM 决定模型和 batch 的承载能力。

NVLink / PCIe 决定机内通信效率。

InfiniBand / RoCE / Spectrum-X 决定跨节点协同效率。

NCCL / MPI / DeepEP 决定通信如何被软件调用。

调度和遥测决定系统能否稳定运营。

所以,真正的 AI 工厂不是“GPU 很多”,而是“GPU 能被持续、高效、可预测地组织起来”。

InfiniBand 的价值,是用专用体系换取高性能和确定性。

RoCE 的价值,是把 RDMA 带入开放以太网生态。

Spectrum-X 的价值,是把 AI Ethernet 做成端到端优化平台。

UEC / UET 的价值,是推动以太网阵营走向开放、高性能、可互操作的新标准。

最终,这场竞争不是协议之争,也不是端口速率之争。

它竞争的是:

谁能把更多理论 FLOPS,转化成真实可交付的有效算力。

AI 工厂时代,网络不再只是连接算力。

网络本身,正在成为有效算力的一部分。

参考资料

  1. NVIDIA NCCL Collective Operations:用于理解 AllReduce、ReduceScatter、AllGather、AlltoAll 等 GPU 集合通信原语。
  2. NVIDIA GPUDirect RDMA:用于理解 GPU 与 NIC / PCIe 设备之间的直接数据交换路径。
  3. NVIDIA Quantum-X800 InfiniBand:用于理解 InfiniBand 的 In-Network Computing、SHARP、QoS、拥塞控制、自适应路由和自修复 Fabric。
  4. NVIDIA Spectrum-X:用于理解 Spectrum-X Ethernet Switch、SuperNIC、AI Compute Fabric、性能隔离和 Multiplane 架构。
  5. Ultra Ethernet Consortium Specification 1.0:用于理解 UEC 的开放以太网标准路线。
  6. NVIDIA RoCE Documentation:用于理解 RoCEv2、UDP/IP 封装、PFC、ECN 与无损以太网关系。
基础阅读 一文系统理解 InfiniBand 与 RoCE:GPU 集群为什么需要 AI Compute Fabric? 先理解 InfiniBand 与 RoCE 的系统位置。 2026.07.06 延伸阅读 一文看懂 RoCE:为什么 AI 集群要把以太网改造成 RDMA Fabric? 深入 RoCEv2、PFC、ECN、DCQCN 和以太网 RDMA Fabric。 2026.07.07 延伸阅读 一文搞懂 NCCL:为什么 GPU 集群有了高速网络,训练仍然可能跑不快? NCCL 是验证 Fabric 是否真正服务训练效率的关键入口。 2026.07.07 延伸阅读 一文看懂 NVLink / Scale-Up:AI 时代,GPU 为什么要被组织成一台更大的计算机? 理解 Scale-Up 与 Scale-Out 的边界,才能判断跨节点网络的位置。 2026.07.07