DeepSeek致谢腾讯技术团队,DeepEP开源通信框架性能显著提升
创始人
2025-05-08 06:29:22

腾讯技术团队针对DeepSeek开源的DeepEP通信框架进行深度优化,使其在多种网络环境下均实现显著性能提升。

经测试,优化后的通信框架性能在 RoCE网络环境提升100%,IB 网络环境提升 30%,为企业开展AI大模型训练提供更高效的解决方案。

该技术方案获得了DeepSeek公开致谢,称这是一次“huge speedup”代码贡献。

IT之家注:DeepEP是一个为专家混合(MoE)和专家并行(EP)量身定制的通信库。它提供高吞吐量和低延迟的全对全GPU内核,这些内核也被称为MoE派发和组合。该库还支持低精度运算,包括FP8。

据悉,腾讯星脉网络团队在DeepEP开源后便展开技术攻关,发现两大关键瓶颈:一是对于双端口网卡带宽利用率不足,二是CPU控制面交互存在时延。

在腾讯的技术优化下,DeepEP不仅在RoCE 网络实现性能翻倍,反哺到IB(InfiniBand)网络时更使原有通信效率再提升30%。

目前,该技术已全面开源,并成功应用于腾讯混元大模型等项目的训练推理,在腾讯星脉与H20服务器构建的环境中,这套方案展现出出色的通用性。

来源:IT之家

相关内容

热门资讯

结婚后“无性生活”的夫妻,为什... 结婚后出现“无性生活”的情况,往往会给夫妻关系带来巨大压力。一方可能因工作压力、身体原因等导致性欲减...
5月12日盘前停复牌汇总 上证报中国证券网讯 5月12日,1家公司临停:*ST有树,1家公司复牌:汇纳科技。 来源:Choi...
*ST有树“摘帽” 公司经营逐... 证券时报记者 严翠破产重整完成后,*ST有树(300209)逐渐走出阴霾,并即将被撤销退市风险警示和...
财务造假曝光!这些‘自主可控’... 星空君最近接了个大活,把几个用了N年的系统进行信创化改造。信创的概念提了十几年了,但一直没有非常清晰...
雅戈尔转身,再做“时尚梦” 雅... 斑马消费 沈庹雅戈尔,正在重回时尚老本行。日前,公司掌门人李如成对过去一年作出总结:“2024年是公...
广东江门农商行拟吞并两家成立1... 据江门农商银行公告披露,该行将于2025年5月13日召开临时股东大会,审议吸收合并龙川融和村镇银行、...
王兴兴:很多人形机器人企业爆单... IT之家 5 月 12 日消息,第六届上海创新创业青年 50 人论坛于 5 月 10 日举行,杭州宇...
军工行情被“点燃”,转折要来了... 近日,在大盘震荡回暖的背景下军工股表现却颇为亮眼,在过去的一周内,中证军工指数涨幅高达5.82%,更...
酒店给你送外卖的机器人三年亏8... 最近几年,送餐机器人在不少中高端酒店都开始红火起来,酒店送外卖终于不再需要顾客下来自取,机器人无疑也...
美媒:关税冲突加剧欧美招聘挑战... 来源:环球时报【环球时报特约记者 甄翔】关税冲突对国际经济众多领域的影响持续显现,彭博社10日的报道...
日媒:工资增速追不上物价上涨,... 来源:环球时报【环球时报综合报道】据日本NHK电视台网站9日报道,日本厚生劳动省当天发布的数据显示,...
河北农行3年4位正副行长被查,... 农业银行河北省分行又有一位副行长被查。据湘财Plus统计,2021年11月至今的3年多,河北农行已有...
洛阳新安煤渣倾倒耕地,多年难以... 图①图②编辑同志:2016年前,有人多次把煤渣随意倾倒在我们村东头的耕地里。2016年后,虽然没有再...
金融政策加力提振市场情绪,短期... 5月首个交易周,A股市场整体表现强势,日均成交额较4月底改善,情绪面显著回暖。消息面上,5月7日,金...
中国船舶重组获受理 中国船舶重... 本报记者 庄灵辉 卢志坤 北京报道中国船舶工业股份有限公司(600150.SH,以下简称“中国船舶”...
面临关税与汇率双重压力,丰田预... 在特朗普政府挥舞的关税大棒与日元升值的双重压力下,丰田汽车预计2026财年(2025年4月1日至20...
券业老将到龄退休!方正证券总裁... 21世纪经济报道记者李域 实习生高天韵 深圳报道证券行业迎来新老交替时刻。5月9日,方正证券发布公告...
市场按下优胜劣汰“加速键”,公... A股按下优胜劣汰“加速键”,年内已有140余家上市公司遭到“披星戴帽”。在实施风险警示后,这批公司多...
牛市早报|中美经贸高层会谈达成... 【市场数据】截至5月9日收盘,上证综指跌0.3%,报3342点;科创50指数跌1.96%,报1006...
3天内,2家公司撤回IPO 3... 本周未有新股申购,科创板受理年内第3家IPO。据目前安排,若无变化本周(5月12日至16日)暂没有新...
IPO周报|本周A股暂无新股网... 今年以来发行价最低的新股将于本周二上市。澎湃新闻根据Wind及公开信息梳理统计,本周(5月12日至5...
加力稳外贸 跨境电商综试区再扩... 国务院日前发布的《关于同意在海南全岛和秦皇岛等15个城市(地区)设立跨境电子商务综合试验区的批复》提...
【ETF观察】5月9日宽基指数... 证券之星消息,5月9日宽基指数ETF基金合计资金净流出22.93亿元,近5个交易日累计净流出76.0...
厦航“免费降舱”始末 请你提供具体的“厦航‘免费降舱’始末”相关内容呀,比如事件的起因、经过、结果以及具体的细节等,没有这...
新台币之殇,强美元反转敲响警钟 新台币之殇,强美元反转敲响警钟。在全球经济舞台上,美元的强势一度让新台币面临巨大压力。曾几何时,新台...
吃流量饭的KOL,请把粉丝当人... 在当今的网络世界中,存在着一些吃流量饭的 KOL。他们往往过于看重数据和关注量,而忽略了真正的价值。...
支持“硬科技”企业用好上市融资...   5月9日,深圳市地方金融管理局、中国证券监督管理委员会深圳监管局印发《深圳市关于发挥资本市场作用...
南向资金年内流入近6000亿元... 今年以来,内资持续加大布局港股的力度,南向资金净流入港股近6000亿元。据统计,截至一季度末,可投港...
多层次资本市场持续加力 “质效... 截至5月11日,年内37家公司登陆A股,其中32家为民营企业,占比86.49%,32家民企募资210...
新产业:C反应蛋白测定试剂盒获... 中证智能财讯 新产业(300832)5月9日晚间公告,公司近日收到广东省药品监督管理局颁发的1项《医...