十倍提升大模型通信性能!腾讯云首次完整披露自研星脉高性能计算网络
AIGC的爆发除了带来算力上的挑战,对网络的要求也达到了前所未有的高度。
6月26日,腾讯云首次对外完整披露自研星脉高性能计算网络:星脉网络具备业界最高的3.2T通信带宽,能提升40%的GPU利用率,节省30%~60%的模型训练成本,为AI大模型带来10倍通信性能提升。基于腾讯云新一代算力集群HCC,可支持10万卡的超大计算规模。
腾讯云副总裁王亚晨表示:“星脉网络是为大模型而生。它所提供的大带宽、高利用率以及零丢包的高性能网络服务,将助力算力瓶颈的突破,进一步释放AI潜能,全面提升企业大模型的训练效率,在云上加速大模型技术的迭代升级和落地应用。”
(资料图)
构建大模型专属高性能网络,提升40%GPU利用率
AIGC的火爆带来AI大模型参数量从亿级到万亿级的飙升。为支撑海量数据的大规模训练,大量服务器通过高速网络组成算力集群,互联互通,共同完成训练任务。
大集群不等于大算力,相反,GPU集群越大,产生的额外通信损耗越多。大带宽、高利用率、信息无损,是AI大模型时代网络面临的核心挑战。
千亿、万亿参数规模的大模型,训练过程中通信占比最大可达50%,传统低速网络的带宽远远无法支撑。同时,传统网络协议容易导致网络拥塞、高延时和丢包,而仅0.1%的网络丢包就可能导致50%的算力损失,最终造成算力资源的严重浪费。
基于全面自研能力,腾讯云在交换机、通信协议、通信库以及运营系统等方面,进行了软硬一体的升级和创新,率先推出业界领先的大模型专属高性能网络——星脉网络。
在硬件方面,星脉网络基于腾讯的网络研发平台,采用全自研设备构建互联底座,实现自动化部署和配置。
在软件方面,腾讯云自研的TiTa网络协议,采用先进的拥塞控制和管理技术,能够实时监测并调整网络拥塞,满足大量服务器节点之间的通信需求,确保数据交换流畅、延时低,实现高负载下的零丢包,使集群通信效率达90%以上。
此外,腾讯云还为星脉网络设计了高性能集合通信库TCCL,融入定制化解决方案,使系统实现了微秒级感知网络质量。结合动态调度机制合理分配通信通道,可以避免因网络问题导致的训练中断等问题,让通信时延降低40%。
网络的可用性,也决定了整个集群的计算稳定性。为确保星脉网络的高可用,腾讯云自研了端到端的全栈网络运营系统,通过端网立体化监控与智能定位系统,将端网问题自动定界分析,让整体故障的排查时间由天级降低至分钟级。同时,大模型训练系统的整体部署时间从19天缩减至4.5天,保证基础配置100%准确。
历经三代技术演进,软硬一体深耕自研
星脉网络全方位的升级背后,是腾讯数据中心网络历经三代技术演进的成果。
在腾讯发展初期,数据中心网络流量主要由用户访问数据中心服务器的南北向流量构成,网络架构以接入、汇聚、出口为主。这一阶段主要使用了商用网络设备,搭建标准化数据中心网络,支撑QQ在线人数增长超过1亿,服务器规模增长超10万。
随着大数据和云计算的兴起,服务器之间的东西向流量逐渐增多,云租户对网络产生了虚拟化和隔离的要求。数据中心网络架构逐渐演变为同时承载南北向和东西向流量的云网络架构,腾讯云构建了全自研网络设备与管理系统,打造超大规模数据中心网络,服务器规模近200万台。
如今随着AI大模型的出现,腾讯云在国内率先推出高性能计算网络,采用东西向、南北向流量的分离架构。构建了独立的超大带宽、符合AI训练流量特征的网络架构,并配合自研软硬件设施,实现整套系统的自主可控,满足超强算力对网络性能的新需求。
日前,腾讯云发布的新一代HCC高性能计算集群,正是基于星脉高性能网络打造,可以实现3.2T超高互联带宽,算力性能较前代提升3倍,为AI大模型训练构筑可靠的高性能网络底座。
未来,腾讯云还将持续投入基础技术的研发,为各行各业的数智化转型提供有力的技术支撑。
关键词:
- 十倍提升大模型通信性能!腾讯云首次完整披露自研星脉高性能计算网络(2023-06-26 22:54:55)
- 每日简讯:海贼王1067集情报:最终决战来临,四皇大妈陨落,凯多要哭了(2023-06-26 23:00:34)
- 教师节写给老师的祝福语简短(教师节写给老师的祝福语)(2023-06-26 23:11:45)
- 漯河:刚刚通告!事关燃气安全(2023-06-26 23:03:10)
- 安徽省委决定,李红履新宿州学院党委书记(2023-06-26 23:03:50)
- 天天热点!特色产业焕新生 为乡村振兴注入新动能(2023-06-26 23:02:00)
- 中国十九冶承建的达州市工人文化宫项目顺利通过主体结构验收(2023-06-26 23:03:02)
- 海贼王:伊姆已获得永恒的生命,手握天王掌管世界800年(2023-06-26 23:09:19)
- 快资讯:新中港: 2023年浙江新中港热电股份有限公司公开发行可转换公司债券2023年跟踪评级报告(2023-06-26 23:08:58)
- 没有光芯片,单凭CPO中际旭创能飞多远? 每日热讯(2023-06-26 23:03:26)
- 内蒙古6月10日-6月16日煤炭企业生产能力提升 市场供应能力增强|全球热闻(2023-06-26 23:09:26)
- 《暗黑破坏神4》废墟之路任务怎么做?废墟之路任务攻略 全球即时(2023-06-26 22:50:36)
- 《暗黑4》加入 DirectStorage 技术支持,或提升游戏性能|天天新消息(2023-06-26 23:05:10)
- 杭州6月小客车增量指标竞价结果出炉 平均成交价跌至10392元 快报(2023-06-26 22:49:59)
- 全球报道:从卖单品到卖场景:户外消费有何新逻辑?(2023-06-26 23:06:10)
- 环球播报:电工相关概念股2023年名单一览(6月26日)(2023-06-26 22:59:31)
- 一图看懂vivo X90s 配置全面升级3999起(2023-06-26 22:58:17)
- 怎样安装win10系统到u盘启动 怎样安装win10系统(2023-06-26 22:50:33)
- 胡锡进宣布进入A股 李大霄提建议:先买基金再买股票-天天聚看点(2023-06-26 22:58:34)
- 棉花苗情大好转!新疆实地调研,最新情况→(2023-06-26 23:02:45)
- 悦康药业跌16.33% 某券商在其高位喊增持(2023-06-26 22:53:13)
- 【世界报资讯】距年底开通再进一步!川青铁路成黄段电气化“心脏”开始“跳动”(2023-06-26 22:54:05)
- 长源电力:安陆赵棚风电项目并网发电转商运(2023-06-26 22:50:51)
- vivo x90s今天正式发布:天玑9200+芯、3999元起(2023-06-26 23:01:06)
- 出纳侵占公司50万元辩称为“朋友借款”,如何查明真相?(2023-06-26 23:05:46)
- 世界球精选!交个朋友直播间否认罗永浩还完债:他还在努力工作(2023-06-26 23:02:11)
- “深圳惠民保”参保突破500万人 投保通道4天后关闭 当前观察(2023-06-26 23:08:34)
- dnf四剑圣实力 第一实力可秒使徒(2023-06-26 22:48:20)
- 天天时讯:场下接着竞争!罗马诺:曼城和阿森纳都打算在本周报价赖斯(2023-06-26 22:48:07)
- 日均开行上万列!端午铁路运送旅客7000多万人次 速递(2023-06-26 23:02:08)
-
《暗黑4》加入 DirectStorage 技术支持,
与此同时,《暗黑4》的游戏性能一直在优化。值得一提的是,《暗黑4》游
-
杭州6月小客车增量指标竞价结果出炉 平均
杭州本月浙A小客车车牌竞价结果出炉,本月竞价的最低成交价为个人10000
-
全球报道:从卖单品到卖场景:户外消费有何
第一财经商业数据中心(CBNData)隶属于上海文化广播影视集团(SMG),
-
环球播报:电工相关概念股2023年名单一览(6
电工相关概念股2023年名单一览(6月26日),2023年电工概念股有:涪陵电
-
一图看懂vivo X90s 配置全面升级3999起
今天下午,vivo正式发布了全新android机型vivoX90s,新款产品为我们带
-
怎样安装win10系统到u盘启动 怎样安装win10系统
1、安装win10操作系统步骤: 准备工具: u启动u盘启动盘 2、w
-
胡锡进宣布进入A股 李大霄提建议:先买基
6月26日,著名媒体人胡锡进在个人微博上发文称,自己开了股票账户,正
-
棉花苗情大好转!新疆实地调研,最新情况→
近段时间以来,受新疆天气扰动因素和种植面积减少预期影响,棉花价格一
-
悦康药业跌16.33% 某券商在其高位喊增持
悦康药业跌16 33%某券商在其高位喊增持
-
【世界报资讯】距年底开通再进一步!川青铁
6月26日18时,随着明显的电流声响起,川青铁路绵竹牵引变电所成功受电
- 滚动
- 综合
- 房产