腾讯云
开发者社区
文档
建议反馈
控制台
登录/注册
首页
学习
活动
专区
圈层
工具
MCP广场
文章/答案/技术大牛
搜索
搜索
关闭
发布
首页
标签
智算存储 NitroFS
#
智算存储 NitroFS
智算存储 NitroFS 是为大模型场景设计的高性能存储
关注
专栏文章
(16)
技术视频
(0)
互动问答
(1)
最新优先
最热优先
IB(InfiniBand)vs RoCEv2 的网络选型大家怎么权衡?
1
回答
gpu
、
集群
、
数据
、
网络
、
智算存储 NitroFS
紫风
十五年服务端架构专家,用高可用承载亿级流量,用高性能支撑毫秒级响应。为业务增长提供坚实的技术底座。
判断标准其实是规模和运维能力,不是裸性能。RoCEv2 跑在以太网上,交换机便宜、团队熟悉,中小集群基本是默认选择,缺点是 PFC 和 ECN 要调好,否则拥塞时会出诡异的长尾延迟。IB 无损网络开箱即用,延迟和抖动更稳定,但设备和运维都是封闭体系,人力成本高。集群要上到千卡以上、训练任务对抖动敏感,IB 的省心值回票价;百卡规模、以推理和中小训练为主,RoCEv2 加好调优就够了。还有一点常被忽略:团队能不能养得起一套专用网络运维,比性能参数更决定最终体验。...
展开详请
赞
0
收藏
0
评论
0
分享
判断标准其实是规模和运维能力,不是裸性能。RoCEv2 跑在以太网上,交换机便宜、团队熟悉,中小集群基本是默认选择,缺点是 PFC 和 ECN 要调好,否则拥塞时会出诡异的长尾延迟。IB 无损网络开箱即用,延迟和抖动更稳定,但设备和运维都是封闭体系,人力成本高。集群要上到千卡以上、训练任务对抖动敏感,IB 的省心值回票价;百卡规模、以推理和中小训练为主,RoCEv2 加好调优就够了。还有一点常被忽略:团队能不能养得起一套专用网络运维,比性能参数更决定最终体验。
相关
产品
智算存储 NitroFS
智算存储 NitroFS 是为大模型场景设计的高性能存储
领券