智通財(cái)經(jīng)APP獲悉,中金發(fā)布研究報(bào)告稱,隨著大模型參數(shù)量和訓(xùn)練集規(guī)模大幅增加,智能計(jì)算對通信網(wǎng)絡(luò)的需求相比于傳統(tǒng)的通用計(jì)算有所提升?;贗nfiniBand協(xié)議的網(wǎng)絡(luò)架構(gòu)相比以太網(wǎng)當(dāng)前在性能端具備優(yōu)勢,但以太網(wǎng)也能夠滿足智能計(jì)算對數(shù)據(jù)中心的通信需求,在長期有望憑借經(jīng)濟(jì)性和通用性實(shí)現(xiàn)在智算中心占有率的不斷提升,帶動(dòng)以太網(wǎng)生態(tài)產(chǎn)業(yè)鏈中的優(yōu)質(zhì)企業(yè)業(yè)績呈現(xiàn)后周期成長。
▍中金主要觀點(diǎn)如下:
智能計(jì)算對數(shù)據(jù)中心提出通信新需求,促使網(wǎng)絡(luò)架構(gòu)升級。
大模型訓(xùn)練的分布式計(jì)算需要GPU高頻進(jìn)行計(jì)算結(jié)果通信,網(wǎng)絡(luò)流量增加,南北向流量向東西向流量轉(zhuǎn)變。所以對通信網(wǎng)絡(luò)提出超大規(guī)模組網(wǎng)、超高帶寬、超低時(shí)延、超高穩(wěn)定性和網(wǎng)絡(luò)自動(dòng)化部署新需求,典型網(wǎng)絡(luò)架構(gòu)轉(zhuǎn)向多核心、少收斂形態(tài)。
英偉達(dá)采用基于InfiniBand協(xié)議的胖樹型架構(gòu)構(gòu)建數(shù)據(jù)中心,Quantum-2系列交換機(jī)可實(shí)現(xiàn)51.2Tbps雙向吞吐量,適用于智能計(jì)算和高性能計(jì)算。
InfiniBand是用于高性能計(jì)算的通信標(biāo)準(zhǔn),其特性能夠滿足智能計(jì)算新需求。
InfiniBand多用于高性能計(jì)算集群,并持續(xù)向更高性能迭代。在發(fā)展的二十余年中,由于協(xié)議下游市場相對小眾,退出者眾,而最終呈現(xiàn)出英偉達(dá)Mellanox一枝獨(dú)秀的較為封閉的產(chǎn)業(yè)生態(tài)。
InfiniBand的優(yōu)質(zhì)特性能夠?qū)?yīng)解決智算對網(wǎng)絡(luò)通信的需求,其具有天然的自動(dòng)化部署、基于信用的鏈路層流控機(jī)制、RDMA等功能,從而有助于實(shí)現(xiàn)無損網(wǎng)絡(luò)、避免丟包,提升智能計(jì)算效率。
以太網(wǎng)面向高性能計(jì)算場景升級,有望憑借經(jīng)濟(jì)性和通用性與InfiniBand抗衡。
RoCE協(xié)議下,以太網(wǎng)融合RDMA功能,在高性能計(jì)算場景下的通信性能大幅提升,達(dá)到接近InfiniBand的水平;但整體而言,InfiniBand受益于技術(shù)優(yōu)勢,在高帶寬、低時(shí)延等性能上仍略優(yōu)于升級后的以太網(wǎng)。
為應(yīng)對InfiniBand沖擊,博通、AMD、思科、Arista、Meta等硬件設(shè)備和超大規(guī)模云廠商成立UEC聯(lián)盟,從物理層到軟件層開發(fā)高性能以太網(wǎng)。同時(shí)今年以來,博通、思科等多家頭部以太網(wǎng)供應(yīng)商推出高性能解決方案。
展望未來,以太網(wǎng)具備通用性和硬件部署經(jīng)濟(jì)性,在短期與InfiniBand有望形成抗衡,并隨著豐富生態(tài)中參與者的合作迭代,在長期勝出;以太網(wǎng)生態(tài)中的頭部供應(yīng)商未來有望受益于AI催化下的硬件擴(kuò)容和以太網(wǎng)占有率提升的雙重利好因素。
風(fēng)險(xiǎn)
AI大模型發(fā)展不及預(yù)期;數(shù)據(jù)中心建設(shè)不及預(yù)期。