在大模型推理规模持续扩张、长上下文与智能体任务成为主流的行业背景下网络架构已成为制约AI算力效率的核心瓶颈。2026年5月21日智谱AI联合驭驯网络、清华大学正式宣布新一代ZCube组网架构已在GLM‑5.1 coding生产环境完成规模化落地——在不更换GPU、不改动软件栈与应用逻辑的前提下实现 推理吞吐提升 15% 网络硬件成本削减 33%⚡首Token时延降低 40.6%该技术成果最早于2025年9月在网络领域国际顶会ACM SIGCOMM 2025公开发表被评价为显著改变行业对大模型网络架构的认知方式。此次落地是ZCube架构首次从学术研究走向产业级部署标志着智算基础设施正式进入模型流量驱动、网络拓扑深度协同的全新发展阶段。 一、行业痛点传统网络架构成为大模型推理的性能瓶颈随着大模型从对话交互向代码生成、长文本处理、智能体执行等复杂场景演进KV Cache跨节点传输不对称、长上下文高频通信、Prefill‑Decode分离部署成为常态。传统以 ROFTRail‑Optimized Fat‑Tree为代表的多层Clos架构采用 Spine‑Leaf 层级化堆叠设计在万卡级集群中暴露出难以规避的结构性缺陷。❌ 传统ROFT架构三大核心短板① 静态拓扑导致局部拥塞固定链路分配易形成热点出现总带宽充裕、局部频繁阻塞的矛盾现象引发 PFC 反压与流量冲突直接拉低整体推理效率。② 硬件成本居高不下多层交换机与光模块冗余配置大幅提升数据中心资本支出规模越大成本浪费越明显。③ 扩展能力受限层级化设计在超大规模集群中链路复杂度指数级上升难以高效支持数万张GPU的线性扩展。这些问题直接导致GPU算力无法充分释放、推理时延波动大、硬件投入产出比偏低成为制约大模型商业化落地的关键障碍。 二、ZCube架构核心创新扁平化拓扑从根源消除拥塞ZCube架构彻底打破传统Clos架构的层级化思维以完全扁平化二部图互联为核心重构大模型推理集群的网络通信体系实现流量无阻塞、硬件极简、扩展无上限三大技术突破。 1. 核心设计原理 取消Spine层交换机摒弃多层堆叠采用两组Leaf交换机直接构建扁平网络大幅减少转发层级与硬件数量。 二部图最优路径确保任意GPU之间存在独享最短路径从拓扑结构上杜绝流量冲突实现全局负载均衡。 双端口网卡混合接入结合单轨/多轨混合接入机制适配大模型推理的非对称流量特征提升链路利用率。 智能路由策略基于模型通信模式动态调度保障长上下文、KV Cache同步等关键任务的低时延传输。 2. ZCube vs 传统ROFT架构关键对比对比维度传统ROFT架构ZCube架构核心优势网络拓扑Spine‑Leaf多层堆叠完全扁平化二部图无层级转发降低时延流量调度静态分配易拥塞动态最优路径无冲突全局负载均衡消除热点硬件组成需多层交换机光模块取消Spine层硬件减半成本降低33%扩展能力千卡级瓶颈明显支持数十万GPU线性扩展适配超大规模集群推理性能易受反压影响吞吐波动稳定高吞吐低时延吞吐15%时延‑40.6% 三、生产环境实测数据性能与成本双丰收ZCube架构已在智谱 GLM‑5.1 coding 线上千卡生产集群稳定运行超两周所有指标均通过严苛业务验证推理吞吐GPU平均推理吞吐提升15%同等硬件条件下每秒可多响应15%的API请求显著提升并发承载能力。⚡响应时延首Token时延TTFT P99降低40.6%大幅减少用户等待时间高峰时段服务稳定性显著增强。硬件成本交换机与光模块资本支出减少33%硬件投入直接削减三分之一大规模部署经济效益突出。兼容性GPU、软件栈、应用完全不变无需代码改造即可平滑升级保护现有算力资产降低迁移风险。实测结果证明ZCube架构通过 网络拓扑与大模型通信特征深度耦合实现了 不增硬件、不降性能、大幅降本 的产业级目标为MaaS服务商提供了可复制的优化方案。 四、工程落地突破自动化部署保障平稳升级超大规模网络架构改造面临布线复杂、路由策略重构、业务零中断等多重挑战。驭驯网络团队依托自主研发的自动化控制与校验工具链完成三大关键工程突破自动化布线规划快速生成最优物理连接方案缩短部署周期降低人工误差。路由策略一键切换平滑替换原有网络规则业务无感知升级避免服务中断。全链路实时监控对流量、带宽、时延等指标持续校验确保集群稳定运行。此次落地验证了ZCube架构的工程可行性与大规模兼容性可快速推广至各类智算中心与大模型推理集群。 五、行业价值引领智算基础设施新范式ZCube架构的成功落地不仅是智谱AI在AI基础设施领域的重要突破更对全球大模型产业产生深远影响✅算力效率革命通过网络架构创新释放存量硬件潜能同等算力产出提升15%推动AI算力从拼硬件向拼架构转型。✅成本结构优化网络硬件成本直降三分之一大幅降低大模型推理与MaaS服务的准入门槛加速普惠AI落地。✅技术路线引领证明网络拓扑、通信库、调度策略深度协同是下一代智算中心的核心方向为行业提供全新技术路径。✅国际竞争力提升中国团队原创网络架构率先实现产业落地在超大规模AI基础设施领域达到国际领先水平。 六、总结ZCube架构以扁平化无拥塞拓扑为核心在 GLM‑5.1 coding 生产环境中验证了推理吞吐15%、硬件成本‑33%、首Token时延‑40.6%的卓越性能破解了传统网络架构制约大模型效率的行业难题。作为首个从顶会研究走向规模化落地的大模型专用网络架构ZCube重新定义了智算基础设施的设计理念推动行业从通用互联迈向模型流量驱动的系统协同。未来随着ZCube在更多大模型场景与智算中心的普及将持续提升AI算力效率、降低产业成本为大模型技术的深度商业化提供坚实底层支撑。文章来源AITOP100原文地址https://www.aitop100.cn/infomation/details/33859.html