020-84582900

电话   020-84586548

乐鱼网址:移动云引领IETF国际标准发布高效组播技术为AI大模型通信提速

来源:乐鱼网址    发布时间:2025-12-13 06:06:18

bet356在线网页版:

  近日,IETF(互联网工程任务组)正式对外发布了由移动云主导制定的国际标准RFC9793,该标准名为《BGPExtensionsforBitIndexExplicitReplication(BIER)》,针对当前AI大模型在MoE(MixtureofExperts)架构下面临的专家并行通信瓶颈问题,提出了一种创新的解决方案。

  随着AI技术步入万亿参数大模型的新时代,MoE架构凭借其出色的性能,成为了AI模型的主流选择。然而,这一架构在AI大模型的训练和推理过程中,专家并行所需的All-to-All通信模式对网络带宽提出了极高的要求。尤其是在超节点scale-up网络中,传统的通信模式难以满足这一需求,成为了制约AI大模型逐步发展的关键因素。

  移动云此次主导制定的BIER标准,通过引入高效组播方案,成功打破了这一瓶颈。该方案利用无状态组播的特性,实现了AI大模型门控路由器的实时灵活指定,同时能在数据报文中携带组播接收者列表,从而避免了复杂耗时的组播树建立过程。这一特性与MoE架构中的门控路由器机制高度契合,门控路由器可以依据专家的实时负载水平等因素,为每个Token动态选择对应的TopN专家。通过这一种创新的技术方案,All-to-All通信效率得到了显著提升,进而提高了AI大模型的训练和推理效率。

  此次BIER标准的发布,不仅标志着移动云在技术创新方面取得了国际权威认可,也彰显了中国在全球互联网标准体系建设中的主体地位。这一标准的制定,为解决MoE架构AI大模型的关键通信瓶颈问题提供了国际通用的技术规范,有望大范围的应用于AI超节点产品,逐步提升MoE架构大模型的训练和推理通信效率,降低大模型训练和推理的成本。

  在云智算战略持续深化的背景下,AI大模型的训练和推理效率已成为产业高质量发展的核心竞争力。BIER标准的发布,将有力推动AI技术在各行各业的标准化、普惠化应用,为数字化转型提供强有力的技术支撑。同时,这也为移动云在未来继续发挥技术优势,加强AI大模型等前沿技术领域的自主创新奠定了坚实基础。

  别人靠学历、靠资本,他却骑着二八大杠收旧木料起步,一路逆袭成民企大佬,连沙特阿美都追着投36亿。 可李水荣不满足于安分守己,别的师兄弟还在累死累活接盖房的活儿,他却在木屑堆里嗅到了商机:农村人盖新房抢着买高…

  但科研人里也不乏充满艺术细菌的选手,不仅能发顶刊,还能额外在期刊封面上给大伙「整个活儿」,在一排排设计严肃、充斥着专业术语的学术期刊中,一个引人入胜的封面能够明显提升论文的关注度和引用率,甚至帮助复杂科学概…

  IT之家 12 月 4 日消息,据“今日闵行”公众号,12 月 4 日至 5 日,以“脑联世界・智汇上海”为主题的 2025 脑机接口大会在闵行“脑智天地”未来产业集聚区举行,来自全国的科研团队、企业代表、学…

  华擎H610M COMBO主板独特设计:6内存槽,DDR5与DDR4双兼容

  不仅如此,由于 H610 平台对应的英特尔第 12~14 代酷睿处理器均支持双通道内存,因此 H610M COMBO 的 DDR5内存插槽采用了 2DPC(也称 2SPC)配置,一条通道对应 2 个内存插…

  ① 支持多种主流总线协议,轻松应对各种设备连接需求。 2、模块扩展能力 ① 支持扩展多达16个模块,可根据实际的需求灵活配置。 ①采用8芯标准网线扩展模块,无需特定线缆连接,安装布线省时省力。 ② 使用端子…

  我认为主要有两个原因:一是商业策略考虑,定向流量通常是运营商与第三方内容提供商合作的结果,合作范围可能仅限于主卡用户;二是资费差异化需要,通过限制副卡共享特定权益,运营商可以推出不同价位的套餐,满足多种用户群…

  是光纤网络终端的固定连接装置,通常安装于墙面、机柜或桌面,用于固定和保护光纤适配器(如LC、SC、ST等),并提供标准化的光纤连接接口。按安装方法分类 纯光纤接口:支持两个LC或SC适配器,适用于纯光纤网络…

  美国NASA“阿尔忒弥斯3号”登月推迟至2028年,12次在轨加注成关键阻碍

  国产NAS系统飞牛fnOS 1.0正式登场:功能全面升级,开启成熟稳定新篇章

  华为HarmonyOS 6系统上线新功能:查找设备增设关机验证密码防丢失

  本网站LOGO小熊标志受版权保护,版权登记号:鲁作登字-2015-F-025467,未经ITBEAR官方许可,严禁使用。

,体育注册就送38元

×