AI時代のネットワーク:需要の源と革新の方向

AI大規模モデル時代において、ネットワークは重要な役割を果たしています。大規模モデルの規模が急速に増加するにつれて、複数のサーバークラスターがモデルトレーニングを解決する主要な方法となり、これはAI時代におけるネットワークの地位向上の基盤でもあります。過去には単純にデータ転送に使用されていたネットワークですが、現在ではGPU間のモデルパラメータの同期により多く使用され、ネットワークの密度と容量に対してより高い要求が求められています。

大モデルのトレーニングにおけるネットワークの需要は、主に3つの側面から来ています。

1. モデルの規模が急速に拡大しており、単一のカードの計算能力では需要を満たすことができなくなったため、ネットワークを介して複数のカードが協調して作業する必要がある。

2. 並行トレーニング中、各計算後にカード間でパラメータの整合が必要であり、ネットワークの伝送と交換に高い要求を課しています。

3. 長時間のトレーニング中に、ネットワーク障害が発生すると巨額の損失を引き起こし、ネットワークの安定性に対する要求が非常に高くなります。

ネットワークの革新は主に以下の方向に集中しています:

1. 伝送媒体の更新: 光モジュールは高速率を追求する一方で、LPOやシリコン光などのコスト削減ルートを探求しています。短距離接続においては銅線が依然として優位です。Chipletやウェハーレベルの拡張などの新技術がシリコンベースの相互接続の探求を加速させています。

2. ネットワークプロトコルの競争: チップ間通信プロトコルとGPUの強いバインディング、例えばNVLINK、Infinity Fabricなど。ノード間通信は主にInfiniBandとイーサネットの競争です。

3. ネットワークアーキテクチャの変革:葉脊アーキテクチャは広く利用されていますが、クラスターの規模が大きくなるにつれて、DragonflyやRail-onlyなどの新しいアーキテクチャが超大規模クラスターの発展方向になると期待されています。

4. スイッチの革新: 電気スイッチのアップグレードに加えて、光スイッチも注目され始めており、超大規模クラスタでの役割が期待されています。

5. データセンター間の接続: 単一センターの規模が上限に近づくにつれて、多センターの接続が新しい研究の方向性となり、長距離高速光モジュールなどの新たな需要をもたらす。

投資の提案は2つの方向に注目すること: 1つは通信システムのコア部分、例えば中際旭創、新易盛、天孚通信など; 2つ目は通信システムのイノベーション部分、例えば長飛光ファイバー、盛科通信など。

リスク警告には、AIの需要が予想を下回ること、スケーリング法則の失敗、業界競争の激化などが含まれます。