Jaringan di Era AI: Sumber Permintaan dan Arah Inovasi
Jaringan memainkan peran kunci di era model AI besar. Seiring pertumbuhan cepat skala model besar, kluster server ganda menjadi cara utama untuk menyelesaikan pelatihan model, yang juga merupakan dasar peningkatan posisi jaringan di era AI. Dibandingkan dengan masa lalu yang hanya digunakan untuk pengiriman data, sekarang jaringan lebih banyak digunakan untuk menyinkronkan parameter model antar kartu grafis, yang menuntut kepadatan dan kapasitas jaringan yang lebih tinggi.
Kebutuhan jaringan untuk pelatihan model besar berasal dari tiga aspek utama:
Skala model tumbuh dengan cepat, kekuatan komputasi kartu tunggal sudah tidak dapat memenuhi permintaan, perlu menghubungkan beberapa kartu melalui jaringan untuk bekerja sama.
Dalam pelatihan paralel, setelah setiap perhitungan, perlu dilakukan penyelarasan parameter antar kartu, yang menuntut tinggi terhadap transmisi dan pertukaran jaringan.
Dalam pelatihan jangka panjang, gangguan jaringan dapat menyebabkan kerugian besar, sehingga kebutuhan akan stabilitas jaringan sangat tinggi.
Inovasi jaringan terutama terfokus pada arah berikut:
Pembaruan media transmisi: Modul optik dalam mengejar kecepatan tinggi juga sedang menjelajahi jalur pengurangan biaya seperti LPO dan silicon photonics. Kabel tembaga masih memiliki keunggulan dalam koneksi jarak pendek. Teknologi baru seperti Chiplet dan pengembangan tingkat wafer mempercepat eksplorasi interkoneksi berbasis silikon.
Persaingan protokol jaringan: protokol komunikasi antar chip yang terikat erat dengan kartu grafis, seperti NVLINK, Infinity Fabric, dan lain-lain. Persaingan komunikasi antar node terutama antara InfiniBand dan Ethernet.
Perubahan Arsitektur Jaringan: Meskipun arsitektur leaf-spine banyak digunakan, seiring dengan semakin besarnya skala kluster, arsitektur baru seperti Dragonfly, Rail-only, dan lainnya diharapkan menjadi arah pengembangan untuk kluster super besar.
Inovasi Switch: Selain peningkatan switch listrik, switch optik juga mulai menunjukkan potensi, diharapkan dapat memainkan peran dalam kluster skala sangat besar.
Interkoneksi Pusat Data: Dengan ukuran pusat tunggal mendekati batas, interkoneksi multi-pusat menjadi arah penelitian baru, yang akan membawa permintaan baru untuk modul optik kecepatan tinggi jarak jauh.
Saran investasi berfokus pada dua arah: yang pertama adalah bagian inti dari sistem komunikasi, seperti Zhongji Xuchuang, Xinyi Sheng, Tianfu Communication, dll; yang kedua adalah bagian inovasi sistem komunikasi, seperti Changfei Fiber, Shengke Communication, dll.
Peringatan risiko termasuk permintaan AI yang tidak memenuhi harapan, kegagalan hukum skala, dan peningkatan persaingan di industri.
Halaman ini mungkin berisi konten pihak ketiga, yang disediakan untuk tujuan informasi saja (bukan pernyataan/jaminan) dan tidak boleh dianggap sebagai dukungan terhadap pandangannya oleh Gate, atau sebagai nasihat keuangan atau profesional. Lihat Penafian untuk detailnya.
19 Suka
Hadiah
19
5
Bagikan
Komentar
0/400
GasGuzzler
· 07-20 23:18
Menggoreng ini sangat lezat
Lihat AsliBalas0
GamefiHarvester
· 07-19 20:15
Cerita ini harus membahas tentang seorang suckers
Lihat AsliBalas0
GraphGuru
· 07-19 20:13
Orang keras memukul model besar
Lihat AsliBalas0
LiquidityWizard
· 07-19 20:07
secara teoritis, hambatan jaringan memiliki kemungkinan 73,6% menjadi risiko sistemik kami berikutnya... *menyeruput kopi jam 3 pagi*
Inovasi Jaringan di Era AI: Dari Kebutuhan Pelatihan Model Besar ke Peluang Investasi
Jaringan di Era AI: Sumber Permintaan dan Arah Inovasi
Jaringan memainkan peran kunci di era model AI besar. Seiring pertumbuhan cepat skala model besar, kluster server ganda menjadi cara utama untuk menyelesaikan pelatihan model, yang juga merupakan dasar peningkatan posisi jaringan di era AI. Dibandingkan dengan masa lalu yang hanya digunakan untuk pengiriman data, sekarang jaringan lebih banyak digunakan untuk menyinkronkan parameter model antar kartu grafis, yang menuntut kepadatan dan kapasitas jaringan yang lebih tinggi.
Kebutuhan jaringan untuk pelatihan model besar berasal dari tiga aspek utama:
Skala model tumbuh dengan cepat, kekuatan komputasi kartu tunggal sudah tidak dapat memenuhi permintaan, perlu menghubungkan beberapa kartu melalui jaringan untuk bekerja sama.
Dalam pelatihan paralel, setelah setiap perhitungan, perlu dilakukan penyelarasan parameter antar kartu, yang menuntut tinggi terhadap transmisi dan pertukaran jaringan.
Dalam pelatihan jangka panjang, gangguan jaringan dapat menyebabkan kerugian besar, sehingga kebutuhan akan stabilitas jaringan sangat tinggi.
Inovasi jaringan terutama terfokus pada arah berikut:
Pembaruan media transmisi: Modul optik dalam mengejar kecepatan tinggi juga sedang menjelajahi jalur pengurangan biaya seperti LPO dan silicon photonics. Kabel tembaga masih memiliki keunggulan dalam koneksi jarak pendek. Teknologi baru seperti Chiplet dan pengembangan tingkat wafer mempercepat eksplorasi interkoneksi berbasis silikon.
Persaingan protokol jaringan: protokol komunikasi antar chip yang terikat erat dengan kartu grafis, seperti NVLINK, Infinity Fabric, dan lain-lain. Persaingan komunikasi antar node terutama antara InfiniBand dan Ethernet.
Perubahan Arsitektur Jaringan: Meskipun arsitektur leaf-spine banyak digunakan, seiring dengan semakin besarnya skala kluster, arsitektur baru seperti Dragonfly, Rail-only, dan lainnya diharapkan menjadi arah pengembangan untuk kluster super besar.
Inovasi Switch: Selain peningkatan switch listrik, switch optik juga mulai menunjukkan potensi, diharapkan dapat memainkan peran dalam kluster skala sangat besar.
Interkoneksi Pusat Data: Dengan ukuran pusat tunggal mendekati batas, interkoneksi multi-pusat menjadi arah penelitian baru, yang akan membawa permintaan baru untuk modul optik kecepatan tinggi jarak jauh.
Saran investasi berfokus pada dua arah: yang pertama adalah bagian inti dari sistem komunikasi, seperti Zhongji Xuchuang, Xinyi Sheng, Tianfu Communication, dll; yang kedua adalah bagian inovasi sistem komunikasi, seperti Changfei Fiber, Shengke Communication, dll.
Peringatan risiko termasuk permintaan AI yang tidak memenuhi harapan, kegagalan hukum skala, dan peningkatan persaingan di industri.