Інновації в мережі епохи штучного інтелекту: від потреби в навчанні великих моделей до інвестиційних можливостей

robot
Генерація анотацій у процесі

Мережа в епоху ШІ: джерела попиту та напрямки інновацій

Мережа відіграє ключову роль в еру великих AI моделей. З ростом масштабів великих моделей, багатосерверні кластери стали основним способом вирішення навчання моделей, що є основою підвищення статусу мережі в еру AI. На відміну від минулого, коли мережа використовувалася виключно для передачі даних, сьогодні мережа більше використовується для синхронізації параметрів моделей між графічними картами, що ставить вищі вимоги до щільності та потужності мережі.

Основні вимоги до мережі для навчання великих моделей походять з трьох напрямків:

  1. Швидке зростання масштабу моделей, обчислювальна потужність одного графічного процесора вже не може задовольнити потреби, необхідно з'єднати кілька графічних процесорів для спільної роботи через мережу.

  2. Під час паралельного навчання після кожного обчислення між картами потрібно виконувати вирівнювання параметрів, що ставить високі вимоги до мережевої передачі та обміну.

  3. Під час тривалих тренувань мережеві збої можуть призвести до величезних втрат, що висуває дуже високі вимоги до стабільності мережі.

Мережеві інновації в основному зосереджені в наступних напрямках:

  1. Оновлення середовища передачі: оптичні модулі, прагнучи до високих швидкостей, також досліджують маршрути зниження витрат, такі як LPO, кремнієва оптика тощо. Мідні кабелі все ще мають перевагу в короткочасному з'єднанні. Нові технології, такі як Chiplet, розширення на рівні пластин, прискорюють дослідження кремнієвих з'єднань.

  2. Конкуренція мережевих протоколів: протоколи зв'язку між чіпами тісно пов'язані з графічними процесорами, такими як NVLINK, Infinity Fabric тощо. Конкуренція між вузлами в основному відбувається між InfiniBand та Ethernet.

  3. Зміна мережевої архітектури: хоча архітектура Leaf-Spine широко використовується, з ростом масштабів кластерів нові архітектури, такі як Dragonfly, Rail-only та інші, мають потенціал стати напрямком розвитку надвеликих кластерів.

  4. Інновації в комутаторах: крім оновлення електричних комутаторів, також починають з'являтися оптичні комутатори, які можуть зіграти роль у надвеликих кластерах.

  5. Взаємозв'язок дата-центрів: оскільки масштаб одного центру наближається до межі, взаємозв'язок кількох центрів стає новим напрямком дослідження, що призведе до нових вимог, таких як модулі високошвидкісного оптичного зв'язку на великі відстані.

Інвестиційні поради зосереджені на двох напрямках: перший - ключові елементи комунікаційних систем, такі як Zhongji Xuchuang, Xinyiseng, Tianfu Communication тощо; другий - інноваційні елементи комунікаційних систем, такі як Changfei Optical Fiber, Shengkete Communication тощо.

Ризики включають недостатній попит на ШІ, збої у масштабуванні, посилення конкурентної боротьби в галузі тощо.

ETH1.68%
Переглянути оригінал
Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.
  • Нагородити
  • 5
  • Поділіться
Прокоментувати
0/400
GasGuzzlervip
· 07-20 23:18
Це смачно смажити
Переглянути оригіналвідповісти на0
GamefiHarvestervip
· 07-19 20:15
Ця історія розповідає про одного невдаха
Переглянути оригіналвідповісти на0
GraphGuruvip
· 07-19 20:13
Ядрові люди жорстоко б'ють великі моделі
Переглянути оригіналвідповісти на0
LiquidityWizardvip
· 07-19 20:07
теоретично кажучи, мережеві вузькі місця мають 73,6% ймовірності стати нашим наступним системним ризиком... *п’є каву о 3-й ранку*
Переглянути оригіналвідповісти на0
NightAirdroppervip
· 07-19 19:58
Просто завершуйте! Втрата настрою.
Переглянути оригіналвідповісти на0
  • Закріпити