首页
学习
活动
专区
圈层
工具
发布
首页标签智算存储 NitroFS

#智算存储 NitroFS

智算存储 NitroFS 是为大模型场景设计的高性能存储

IB(InfiniBand)vs RoCEv2 的网络选型大家怎么权衡?

紫风十五年服务端架构专家,用高可用承载亿级流量,用高性能支撑毫秒级响应。为业务增长提供坚实的技术底座。
判断标准其实是规模和运维能力,不是裸性能。RoCEv2 跑在以太网上,交换机便宜、团队熟悉,中小集群基本是默认选择,缺点是 PFC 和 ECN 要调好,否则拥塞时会出诡异的长尾延迟。IB 无损网络开箱即用,延迟和抖动更稳定,但设备和运维都是封闭体系,人力成本高。集群要上到千卡以上、训练任务对抖动敏感,IB 的省心值回票价;百卡规模、以推理和中小训练为主,RoCEv2 加好调优就够了。还有一点常被忽略:团队能不能养得起一套专用网络运维,比性能参数更决定最终体验。... 展开详请

相关产品

  • 智算存储 NitroFS

    智算存储 NitroFS 是为大模型场景设计的高性能存储

领券