Mạng đóng vai trò quan trọng trong kỷ nguyên mô hình AI lớn. Khi quy mô của các mô hình lớn nhanh chóng tăng trưởng, cụm máy chủ đa năng đã trở thành phương pháp chính để giải quyết việc huấn luyện mô hình, điều này cũng là nền tảng cho việc nâng cao vị thế của mạng trong thời đại AI. So với trước đây chỉ được sử dụng để truyền dữ liệu, ngày nay mạng còn được sử dụng nhiều hơn để đồng bộ các tham số mô hình giữa các card đồ họa, điều này đặt ra yêu cầu cao hơn về mật độ và dung lượng mạng.
Nhu cầu mạng cho việc đào tạo mô hình lớn chủ yếu đến từ ba khía cạnh:
Quy mô mô hình tăng trưởng nhanh chóng, sức mạnh tính toán của một thẻ đã không còn đáp ứng được nhu cầu, cần phải kết nối nhiều thẻ qua mạng để làm việc cùng nhau.
Trong quá trình huấn luyện song song, sau mỗi lần tính toán, cần phải thực hiện việc đồng bộ hóa tham số giữa các thẻ, điều này đặt ra yêu cầu cao đối với việc truyền tải và trao đổi mạng.
Trong quá trình huấn luyện lâu dài, sự cố mạng có thể gây ra tổn thất lớn, yêu cầu độ ổn định của mạng rất cao.
Đổi mới mạng chủ yếu tập trung vào các hướng sau:
Cập nhật phương tiện truyền tải: Mô-đun quang trong việc tìm kiếm tốc độ cao cũng đang khám phá các lộ trình tiết kiệm chi phí như LPO, quang silic. Cáp đồng vẫn có lợi thế trong kết nối khoảng cách ngắn. Các công nghệ mới như Chiplet, mở rộng cấp wafer đang thúc đẩy khám phá kết nối dựa trên silic.
Cạnh tranh giao thức mạng: giao thức truyền thông giữa các chip và sự ràng buộc mạnh với card đồ họa, như NVLINK, Infinity Fabric, v.v. Cạnh tranh giữa các nút chủ yếu là giữa InfiniBand và Ethernet.
Cách mạng kiến trúc mạng: Mặc dù kiến trúc Leaf-Spine được áp dụng rộng rãi, nhưng với sự gia tăng quy mô cụm, các kiến trúc mới như Dragonfly, Rail-only có khả năng trở thành hướng phát triển cho các cụm cực lớn.
Đổi mới công tắc: Ngoài việc nâng cấp công tắc điện, công tắc quang cũng bắt đầu nổi bật và có khả năng phát huy tác dụng trong các cụm siêu quy mô.
Trung tâm dữ liệu liên kết: Khi quy mô của trung tâm đơn gần đạt giới hạn, việc liên kết nhiều trung tâm trở thành hướng nghiên cứu mới, sẽ mang lại nhu cầu mới về các mô-đun quang tốc độ cao khoảng cách dài.
Các khuyến nghị đầu tư nên chú ý đến hai hướng: một là các khâu cốt lõi của hệ thống viễn thông, chẳng hạn như Zhongji Xuchuang, New Yi Sheng, Tianfu Communication, v.v.; hai là các khâu đổi mới của hệ thống viễn thông, chẳng hạn như Changfei Fiber, Shengke Communication, v.v.
Những cảnh báo rủi ro bao gồm nhu cầu AI không đạt như mong đợi, sự thất bại của quy luật Scaling, cạnh tranh trong ngành gia tăng, v.v.
Trang này có thể chứa nội dung của bên thứ ba, được cung cấp chỉ nhằm mục đích thông tin (không phải là tuyên bố/bảo đảm) và không được coi là sự chứng thực cho quan điểm của Gate hoặc là lời khuyên về tài chính hoặc chuyên môn. Xem Tuyên bố từ chối trách nhiệm để biết chi tiết.
19 thích
Phần thưởng
19
5
Chia sẻ
Bình luận
0/400
GasGuzzler
· 07-20 23:18
Chiên cái này thật thơm
Xem bản gốcTrả lời0
GamefiHarvester
· 07-19 20:15
Câu chuyện này sẽ nói về một đồ ngốc
Xem bản gốcTrả lời0
GraphGuru
· 07-19 20:13
Người cứng cáp đánh bại mô hình lớn
Xem bản gốcTrả lời0
LiquidityWizard
· 07-19 20:07
nói một cách lý thuyết, các nút thắt mạng có 73,6% khả năng sẽ là rủi ro hệ thống tiếp theo của chúng ta... *nhấp ngụm cà phê lúc 3 giờ sáng*
Đổi mới mạng trong thời đại AI: từ nhu cầu đào tạo mô hình lớn đến cơ hội đầu tư
Mạng lưới thời đại AI: Nguồn cầu và hướng đổi mới
Mạng đóng vai trò quan trọng trong kỷ nguyên mô hình AI lớn. Khi quy mô của các mô hình lớn nhanh chóng tăng trưởng, cụm máy chủ đa năng đã trở thành phương pháp chính để giải quyết việc huấn luyện mô hình, điều này cũng là nền tảng cho việc nâng cao vị thế của mạng trong thời đại AI. So với trước đây chỉ được sử dụng để truyền dữ liệu, ngày nay mạng còn được sử dụng nhiều hơn để đồng bộ các tham số mô hình giữa các card đồ họa, điều này đặt ra yêu cầu cao hơn về mật độ và dung lượng mạng.
Nhu cầu mạng cho việc đào tạo mô hình lớn chủ yếu đến từ ba khía cạnh:
Quy mô mô hình tăng trưởng nhanh chóng, sức mạnh tính toán của một thẻ đã không còn đáp ứng được nhu cầu, cần phải kết nối nhiều thẻ qua mạng để làm việc cùng nhau.
Trong quá trình huấn luyện song song, sau mỗi lần tính toán, cần phải thực hiện việc đồng bộ hóa tham số giữa các thẻ, điều này đặt ra yêu cầu cao đối với việc truyền tải và trao đổi mạng.
Trong quá trình huấn luyện lâu dài, sự cố mạng có thể gây ra tổn thất lớn, yêu cầu độ ổn định của mạng rất cao.
Đổi mới mạng chủ yếu tập trung vào các hướng sau:
Cập nhật phương tiện truyền tải: Mô-đun quang trong việc tìm kiếm tốc độ cao cũng đang khám phá các lộ trình tiết kiệm chi phí như LPO, quang silic. Cáp đồng vẫn có lợi thế trong kết nối khoảng cách ngắn. Các công nghệ mới như Chiplet, mở rộng cấp wafer đang thúc đẩy khám phá kết nối dựa trên silic.
Cạnh tranh giao thức mạng: giao thức truyền thông giữa các chip và sự ràng buộc mạnh với card đồ họa, như NVLINK, Infinity Fabric, v.v. Cạnh tranh giữa các nút chủ yếu là giữa InfiniBand và Ethernet.
Cách mạng kiến trúc mạng: Mặc dù kiến trúc Leaf-Spine được áp dụng rộng rãi, nhưng với sự gia tăng quy mô cụm, các kiến trúc mới như Dragonfly, Rail-only có khả năng trở thành hướng phát triển cho các cụm cực lớn.
Đổi mới công tắc: Ngoài việc nâng cấp công tắc điện, công tắc quang cũng bắt đầu nổi bật và có khả năng phát huy tác dụng trong các cụm siêu quy mô.
Trung tâm dữ liệu liên kết: Khi quy mô của trung tâm đơn gần đạt giới hạn, việc liên kết nhiều trung tâm trở thành hướng nghiên cứu mới, sẽ mang lại nhu cầu mới về các mô-đun quang tốc độ cao khoảng cách dài.
Các khuyến nghị đầu tư nên chú ý đến hai hướng: một là các khâu cốt lõi của hệ thống viễn thông, chẳng hạn như Zhongji Xuchuang, New Yi Sheng, Tianfu Communication, v.v.; hai là các khâu đổi mới của hệ thống viễn thông, chẳng hạn như Changfei Fiber, Shengke Communication, v.v.
Những cảnh báo rủi ro bao gồm nhu cầu AI không đạt như mong đợi, sự thất bại của quy luật Scaling, cạnh tranh trong ngành gia tăng, v.v.