智通財經(jīng)APP獲悉,國盛證券發(fā)布研究報告稱,英偉達(dá)(NVDA.US)正式推出H200,算力再提速。本周英偉達(dá)正式推出HGX
H200,發(fā)布時間早于此前預(yù)期的2024年,該機(jī)構(gòu)認(rèn)為,算力硬件競爭激烈,英偉達(dá)未來或?qū)⒗^續(xù)加速新品發(fā)布節(jié)奏,此舉有望再加速AI進(jìn)程。
國盛證券主要觀點(diǎn)如下:
OpenAI意外改組,AGI進(jìn)程不變。據(jù)OpenAI官網(wǎng)報道,Sam Altman 將辭去 CEO 職位并離開董事會,該公司CTO米拉·穆拉蒂 (Mira Murati) 將擔(dān)任臨時首席執(zhí)行官。市場擔(dān)心Sam Altman的離職將影響OpenAI的研發(fā)進(jìn)程,但該機(jī)構(gòu)認(rèn)為,AGI的全球進(jìn)程已然開啟,并不會因?yàn)镺penAI的人員變動而改變,同時,OpenAI作為行業(yè)領(lǐng)跑者也在“摸著石頭過河”,人員和組織調(diào)整亦屬正常,短期內(nèi)或利好Anthropic、X.ai等競爭對手以及Google、亞馬遜、特斯拉、Meta等玩家。
AI硬件的長期戰(zhàn)略焦點(diǎn):打破“通信墻”。微觀H200 SXM的性能參數(shù),其首次采用HBM3e工藝,141GB的顯存帶寬達(dá)到4.8TB/s,與H100 SXM相比,顯存擴(kuò)大76%的同時帶寬提升了43%。早在2008年,AMD就率先意識到了通信墻問題并提出了HBM(High-Bandwidth Memory)概念,以充分發(fā)揮游戲顯卡的潛力。而當(dāng)今的AI訓(xùn)練推理亟需超大內(nèi)存來承載千億參數(shù)量、TB級別大小的大模型,內(nèi)存性能也順理成章成為AI算力的瓶頸所在。對比來看,根據(jù)英偉達(dá)數(shù)據(jù),內(nèi)存升級帶來了同比例甚至更高的性能升級,也證明了打破通信墻是提升顯卡性能的有效方法。
AI硬件的強(qiáng)力輔助——算力調(diào)優(yōu)。英偉達(dá)表示未來的軟件更新預(yù)計將為H200帶來額外的性能領(lǐng)先優(yōu)勢。以英偉達(dá)TensorRT開源庫為例,其可以幫助開發(fā)人員優(yōu)化推理過程,通過稀疏化矩陣降低一部分不必要的精度,從而降低token輸出的延遲、增強(qiáng)token吞吐量。當(dāng)下市場主要聚焦于算力的最核心環(huán)節(jié)顯卡,市場普遍聚焦于企業(yè)擁有的顯卡數(shù)量,紙面算力等數(shù)據(jù),而忽略了服務(wù)器到貨只是整個算力鏈條的第一步,軟件側(cè)的算力調(diào)優(yōu)也是重要一環(huán),通過一站式的模型末端調(diào)優(yōu)服務(wù),實(shí)現(xiàn)推理準(zhǔn)確性與落地成本的平衡,這亦是打造超算互聯(lián)網(wǎng)需要考慮的場景。
硬件加快迭代,帶動光通信再提速。根據(jù)英偉達(dá)的技術(shù)路線圖,原本1.6T光模塊計劃在2025年大規(guī)模應(yīng)用,現(xiàn)在隨著H200提前發(fā)布,整個技術(shù)路線的迭代隨之加速,1.6T時代也有望更早來臨。市場此前存在疑慮,光模塊的需求量可能在一兩年內(nèi)或隨著800G充分放量而步入下行階段。AI應(yīng)用快速迭代成長,算力需求并未見頂,供應(yīng)側(cè)利好頻出,新興業(yè)務(wù)蓬勃發(fā)展,投資者情緒高漲,當(dāng)下應(yīng)積極關(guān)注算力板塊后續(xù)發(fā)展。
算力——
算力調(diào)優(yōu)/調(diào)度/租賃:恒為科技、思特奇、中科金財、東方材料、博睿數(shù)據(jù)、中貝通信、恒潤股份、中科曙光、中國移動、中國聯(lián)通、中國電信。
光通信:中際旭創(chuàng)、新易盛、天孚通信、太辰光、騰景科技、德科立、聯(lián)特科技、華工科技、源杰科技、劍橋科技、銘普光磁。
算力設(shè)備:中興通訊、紫光股份、銳捷網(wǎng)絡(luò)、盛科通信、菲菱科思、恒為科技、工業(yè)富聯(lián)、寒武紀(jì)、震有科技。
液冷:英維克、申菱環(huán)境、高瀾股份、佳力圖。
邊緣算力承載平臺:美格智能、廣和通、移遠(yuǎn)通信、初靈信息、龍宇股份、網(wǎng)宿科技、佳訊飛鴻。
衛(wèi)星通信:三大運(yùn)營商、中國衛(wèi)通、中國衛(wèi)星、震有科技、華力創(chuàng)通、電科芯片、海格通信。
數(shù)據(jù)要素——
運(yùn)營商:中國電信、中國移動、中國聯(lián)通。
數(shù)據(jù)可視化:浩瀚深度、恒為科技、中新賽克。
BOSS系統(tǒng):亞信科技、天源迪科、東方國信。
風(fēng)險提示:AI發(fā)展不及預(yù)期,算力需求不及預(yù)期,市場競爭風(fēng)險。