Сеть в эпоху ИИ: источники спроса и направления инноваций
Сеть играет ключевую роль в эпоху больших моделей ИИ. С быстрым ростом масштабов больших моделей, кластеры из нескольких серверов становятся основным способом решения задач обучения моделей, что также является основой повышения значения сети в эпоху ИИ. В отличие от прошлого, когда сеть использовалась исключительно для передачи данных, сегодня сеть больше используется для синхронизации параметров моделей между графическими процессорами, что предъявляет более высокие требования к плотности и ёмкости сети.
Сетевые требования для обучения больших моделей в основном возникают из трех аспектов:
Масштаб модели быстро растет, вычислительная мощность одной карты уже не может удовлетворить потребности, необходимо соединить несколько карт для совместной работы через сеть.
В процессе параллельного обучения после каждой вычислительной операции требуется выравнивание параметров между картами, что предъявляет высокие требования к сетевой передаче и обмену.
Долгосрочные тренировки могут привести к огромным потерям из-за сетевых сбоев, что требует высокой стабильности сети.
Сетевые инновации в основном сосредоточены в следующих направлениях:
Обновление транспортной среды: оптические модули стремятся к высокой скорости, одновременно исследуя такие пути снижения затрат, как LPO и кремниевые технологии. Медь по-прежнему имеет преимущества в коротких соединениях. Новые технологии, такие как Chiplet и расширение на уровне кристаллов, ускоряют исследование кремниевых интерконнектов.
Конкуренция сетевых протоколов: протоколы связи между чипами и сильная связь с видеокартами, такими как NVLINK, Infinity Fabric и др. Конкуренция между узлами в основном представлена InfiniBand и Ethernet.
Изменение сетевой архитектуры: хотя архитектура Leaf-Spine широко используется, с увеличением размера кластеров новые архитектуры, такие как Dragonfly и Rail-only, могут стать направлением развития для сверхбольших кластеров.
Инновации в коммутаторах: помимо обновления электрических коммутаторов, оптические коммутаторы также начинают проявлять себя и обещают сыграть важную роль в сверхмасштабных кластерах.
Межцентровая связь: с приближением масштаба одного центра к пределу, многопунктовая связь становится новым направлением исследований, что приведет к новым требованиям, таким как высокоскоростные оптические модули на большие расстояния.
Инвестиционные рекомендации сосредоточены на двух направлениях: первое - ключевые компоненты телекоммуникационных систем, такие как Zhongji Xuchuang, Xinyi Sheng, Tianfu Communication и др.; второе - инновационные компоненты телекоммуникационных систем, такие как Changfei Fiber, Shengke Communication и др.
Риски включают в себя недостаточный спрос на ИИ, несостоятельность закона масштабирования, усиливающуюся конкуренцию в отрасли и т.д.
На этой странице может содержаться сторонний контент, который предоставляется исключительно в информационных целях (не в качестве заявлений/гарантий) и не должен рассматриваться как поддержка взглядов компании Gate или как финансовый или профессиональный совет. Подробности смотрите в разделе «Отказ от ответственности» .
19 Лайков
Награда
19
5
Поделиться
комментарий
0/400
GasGuzzler
· 07-20 23:18
Это действительно вкусно жарить.
Посмотреть ОригиналОтветить0
GamefiHarvester
· 07-19 20:15
Эта история о неудачниках.
Посмотреть ОригиналОтветить0
GraphGuru
· 07-19 20:13
Хардкорный человек жестоко избивает большую модель
Посмотреть ОригиналОтветить0
LiquidityWizard
· 07-19 20:07
теоретически говоря, сетевые узкие места имеют 73,6% вероятность стать нашим следующим системным риском... *пьет кофе в 3 часа ночи*
Инновации в сети эпохи ИИ: от потребностей в обучении больших моделей до инвестиционных возможностей
Сеть в эпоху ИИ: источники спроса и направления инноваций
Сеть играет ключевую роль в эпоху больших моделей ИИ. С быстрым ростом масштабов больших моделей, кластеры из нескольких серверов становятся основным способом решения задач обучения моделей, что также является основой повышения значения сети в эпоху ИИ. В отличие от прошлого, когда сеть использовалась исключительно для передачи данных, сегодня сеть больше используется для синхронизации параметров моделей между графическими процессорами, что предъявляет более высокие требования к плотности и ёмкости сети.
Сетевые требования для обучения больших моделей в основном возникают из трех аспектов:
Масштаб модели быстро растет, вычислительная мощность одной карты уже не может удовлетворить потребности, необходимо соединить несколько карт для совместной работы через сеть.
В процессе параллельного обучения после каждой вычислительной операции требуется выравнивание параметров между картами, что предъявляет высокие требования к сетевой передаче и обмену.
Долгосрочные тренировки могут привести к огромным потерям из-за сетевых сбоев, что требует высокой стабильности сети.
Сетевые инновации в основном сосредоточены в следующих направлениях:
Обновление транспортной среды: оптические модули стремятся к высокой скорости, одновременно исследуя такие пути снижения затрат, как LPO и кремниевые технологии. Медь по-прежнему имеет преимущества в коротких соединениях. Новые технологии, такие как Chiplet и расширение на уровне кристаллов, ускоряют исследование кремниевых интерконнектов.
Конкуренция сетевых протоколов: протоколы связи между чипами и сильная связь с видеокартами, такими как NVLINK, Infinity Fabric и др. Конкуренция между узлами в основном представлена InfiniBand и Ethernet.
Изменение сетевой архитектуры: хотя архитектура Leaf-Spine широко используется, с увеличением размера кластеров новые архитектуры, такие как Dragonfly и Rail-only, могут стать направлением развития для сверхбольших кластеров.
Инновации в коммутаторах: помимо обновления электрических коммутаторов, оптические коммутаторы также начинают проявлять себя и обещают сыграть важную роль в сверхмасштабных кластерах.
Межцентровая связь: с приближением масштаба одного центра к пределу, многопунктовая связь становится новым направлением исследований, что приведет к новым требованиям, таким как высокоскоростные оптические модули на большие расстояния.
Инвестиционные рекомендации сосредоточены на двух направлениях: первое - ключевые компоненты телекоммуникационных систем, такие как Zhongji Xuchuang, Xinyi Sheng, Tianfu Communication и др.; второе - инновационные компоненты телекоммуникационных систем, такие как Changfei Fiber, Shengke Communication и др.
Риски включают в себя недостаточный спрос на ИИ, несостоятельность закона масштабирования, усиливающуюся конкуренцию в отрасли и т.д.