AI時代網路創新:從大模型訓練需求到投資機遇

robot
摘要生成中

AI時代的網路:需求來源與創新方向

網路在AI大模型時代扮演着關鍵角色。隨着大模型規模快速增長,多服務器集羣成爲解決模型訓練的主要方式,這也是網路在AI時代地位提升的基礎。相比過去單純用於數據傳輸,如今網路更多用於同步顯卡間的模型參數,對網路密度和容量提出了更高要求。

大模型訓練的網路需求主要來自三個方面:

  1. 模型規模快速增長,單卡算力已無法滿足需求,需要通過網路連接多卡協同工作。

  2. 並行訓練中,每次計算後卡間都需要進行參數對齊,對網路傳輸和交換提出高要求。

  3. 長時間訓練中,網路故障會導致巨大損失,對網路穩定性要求極高。

網路創新主要集中在以下方向:

  1. 傳輸介質更新:光模塊在追求高速率同時,也在探索LPO、硅光等降本路線。銅纜在短距離連接中仍具優勢。Chiplet、晶圓級擴展等新技術加速硅基互聯探索。

  2. 網路協議競爭:片間通信協議與顯卡強綁定,如NVLINK、Infinity Fabric等。節點間通信則主要是InfiniBand與以太網的競爭。

  3. 網路架構變革:葉脊架構雖廣泛應用,但隨着集羣規模增大,新架構如Dragonfly、Rail-only等有望成爲超大集羣的發展方向。

  4. 交換機創新:除了電交換機升級外,光交換機也開始嶄露頭角,有望在超大規模集羣中發揮作用。

  5. 數據中心互聯:隨着單中心規模接近上限,多中心互聯成爲新的研究方向,將帶來長距離高速光模塊等新需求。

投資建議關注兩個方向:一是通信系統核心環節,如中際旭創、新易盛、天孚通信等;二是通信系統創新環節,如長飛光纖、盛科通信等。

風險提示包括AI需求不及預期、Scaling law失效、行業競爭加劇等。

ETH-1.06%
查看原文
此頁面可能包含第三方內容,僅供參考(非陳述或保證),不應被視為 Gate 認可其觀點表述,也不得被視為財務或專業建議。詳見聲明
  • 讚賞
  • 5
  • 分享
留言
0/400
GasGuzzlervip
· 17小時前
炒这个真香
回復0
链游韭菜收割机vip
· 07-19 20:15
这故事要讲到一个韭菜
回復0
GraphGuruvip
· 07-19 20:13
硬核人暴打大模型
回復0
LiquidityWizardvip
· 07-19 20:07
理论上讲,网络瓶颈有73.6%的可能性成为我们下一个系统性风险…… *凌晨3点喝咖啡*
查看原文回復0
夜不撸毛vip
· 07-19 19:58
卷就完事了!心态没了
回復0
交易,隨時隨地
qrCode
掃碼下載 Gate APP
社群列表
繁體中文
  • 简体中文
  • English
  • Tiếng Việt
  • 繁體中文
  • Español
  • Русский
  • Français (Afrique)
  • Português (Portugal)
  • Bahasa Indonesia
  • 日本語
  • بالعربية
  • Українська
  • Português (Brasil)