本地純凈下載
純凈官方版Control
今日,記者獲悉,在 2023 年度 AI 網絡創新大會上,騰訊雲星脈網絡獲得了“標桿應用獎”。大會由中國通信學會主辦,該獎項旨在表彰具有強商業價值、高服務水平和顯著應用效益的優秀 AI 網絡行業應用案例。
星脈網絡是騰訊雲自研的大模型專屬高性能網絡?;厄v訊雲新一代算力集群 HCC,可支持 10 萬卡的超大計算規模;同時,星脈網絡具備業界最高的 3.2T 通信帶寬,時延降到 10us-40us,丟包率降到 0,為 AI 大模型帶來 10 倍通信性能提升,提升 40% 的 GPU 利用率,節省 30%-60% 的模型訓練成本。
騰訊雲副總裁王亞晨在現場的分享中介紹了星脈網絡。星脈網絡基於高速以太網絡技術進行構建,為騰訊混元大模型提供了高性能互聯底座。
王亞晨指出,隨著 AI 大模型的不斷發展,對網絡的傳輸和穩定提出了新的需求。傳統的網絡架構已經越來越滿足不了大模型訓練的需求。
騰訊雲副總裁王亞晨
千億、萬億參數規模的大模型,訓練過程中通信占比最大可達 50%,傳統低速網絡的帶寬遠遠無法支撐。同時,傳統網絡協議容易導致網絡擁塞、高延時和丟包,而僅 0.1% 的網絡丟包就可能導致 50% 的算力損失,最終造成算力資源的嚴重浪費。大帶寬、高利用率、信息無損,是 AI 大模型時代網絡麵臨的核心挑戰。
基於全麵自研能力,騰訊雲在交換機、通信協議、通信庫以及運營係統等方麵,進行了軟硬一體的升級和創新,率先推出業界領先的大模型專屬高性能網絡 —— 星脈網絡。
在硬件方麵,星脈網絡基於騰訊的網絡研發平臺,采用全自研設備構建互聯底座,實現自動化部署和配置。
在軟件方麵,騰訊雲自研的 TiTa 網絡協議,采用先進的擁塞控製和管理技術,能夠實時監測並調整網絡擁塞,滿足大量服務器節點之間的通信需求,確保數據交換流暢、延時低,實現高負載下的零丟包,使集群通信效率達 90% 以上。
此外,騰訊雲還為星脈網絡設計了高性能集合通信庫 TCCL,融入定製化解決方案,使係統實現了微秒級感知網絡質量。結合動態調度機製合理分配通信通道,可以避免因網絡問題導致的訓練中斷等問題,讓通信時延降低 40%。
網絡的可用性,也決定了整個集群的計算穩定性。為確保星脈網絡的高可用,騰訊雲自研了端到端的全棧網絡運營係統,通過端網立體化監控與智能定位係統,將端網問題自動定界分析,讓整體故障的排查時間由天級降低至分鍾級。同時,大模型訓練係統的整體部署時間從 19 天縮減至 4.5 天,保證基礎配置 100% 準確。
2023 AI 網絡創新大會由中國通信學會指導,中國通信學會信息通信網絡技術委員會、江蘇省未來網絡創新研究院主辦,SDNLAB 協辦;邀請運營商、互聯網公司、設備廠商代表、高校與科研單位代表,圍繞 AI 下的網絡互連架構、AI 網絡設備、高性能網絡傳輸技術、網絡調度與資源分配等議題進行分享交流,搭建國內首個 AI 網絡垂直交流平臺,為 AI 行業穩健發展夯實網絡基礎設施,以技術創新升級驅動賦能網絡發展。
廣告聲明:文內含有的對外跳轉鏈接(包括不限於超鏈接、二維碼、口令等形式),用於傳遞更多信息,節省甄選時間,結果僅供參考,IT之家所有文章均包含本聲明。
Control,轉換快,而且不會改變原文件排版,轉換成功率高。
4.45MB/2023-11-14 14:02
直接下載162.61MB/2023-11-14 13:59
直接下載872.78MB/2023-11-14 13:58
直接下載634.5MB/2023-11-14 13:53
直接下載4.55MB/2023-11-14 13:20
直接下載71.4MB/2023-11-14 12:18
直接下載13.54MB/2023-11-14 11:40
直接下載2.87MB/2023-11-14 11:29
直接下載19.2 MB/2023-11-14
直接下載17.9 MB/2023-11-14
直接下載3.12 MB/2023-11-14
直接下載73.86 MB/2023-11-14
直接下載13.91 MB/2023-11-14
直接下載617.62 MB/2023-11-14
直接下載697.4 MB/2023-11-14
直接下載421.25 MB/2023-11-14
直接下載9.79 MB/2023-11-14
直接下載527.52 MB/2023-11-14
直接下載258.3 MB/2023-11-14
直接下載23.29 MB/2023-11-14
直接下載568.78 MB/2023-11-14
直接下載98.79 MB/2023-11-14
直接下載 2.31MB|查看
42.44MB|查看
79.95MB|查看
英削減E 13MB|2023-11-14 14:09
小學生排隊被老師竹板打手原因曝光!涉事老師被這樣處理…… 9MB|2023-11-14 13:47
成都大運會閉幕!江蘇運動員表現出色 8MB|2023-11-14 13:38
榮耀平板 MagicPad 發布倒計時 1 天 打造萬元以內影音辦公最強平板 1MB|2023-11-14 13:33
膠帶、泡沫、紙盒……當快遞包裝遇到垃圾分類,你會如何處理? 277MB|2023-11-14 13:26
《封神第一部》揭秘視效製作讓中國神話想象力落地 65MB|2023-11-14 13:09
我國成功發射衛星互聯網技術試驗衛星 9MB|2023-11-14 12:22
區政協到杭州南站新城開展重點提案督辦暨重點課題調研座談會 1MB|2023-11-14 11:48
俄國防部:俄軍對策劃反俄恐襲的設施進行報複性打擊 6MB|2023-11-14 11:42
省政協十三屆一次會議舉行預備會議和主席團第一次會議 1MB|2023-11-14 11:29