集邦咨詢:AI及HPC需求帶動(dòng)下 預(yù)計(jì)2023年對(duì)HBM需求容量將同比增近60%

據(jù)TrendForce集邦咨詢研究顯示,目前高端AI服務(wù)器GPU搭載HBM已成主流,預(yù)估2023年全球HBM需求量將同比增近六成,來(lái)到2.9億GB ,2024年將再成長(zhǎng)三成。

智通財(cái)經(jīng)APP獲悉,6月28日,集邦咨詢表示,為解決高速運(yùn)算下,存儲(chǔ)器傳輸速率受限于DDR SDRAM帶寬而無(wú)法同步成長(zhǎng)的問(wèn)題,高帶寬存儲(chǔ)器(High Bandwidth Memory,HBM)應(yīng)運(yùn)而生,其革命性傳輸效率是讓核心運(yùn)算元件充分發(fā)揮效能的關(guān)鍵。據(jù)TrendForce集邦咨詢研究顯示,目前高端AI服務(wù)器GPU搭載HBM已成主流,預(yù)估2023年全球HBM需求量將同比增近六成,來(lái)到2.9億GB ,2024年將再成長(zhǎng)三成。

TrendForce集邦咨詢預(yù)估到2025年,全球若以等同ChatGPT的超大型AIGC產(chǎn)品5款、Midjourney的中型AIGC產(chǎn)品有25款,以及 80款小型AIGC產(chǎn)品估算,上述所需的運(yùn)算資源至少為14.56萬(wàn)-23.37萬(wàn)顆NVIDIA A100 GPU,再加上新興應(yīng)用如超級(jí)計(jì)算機(jī)、8K影音串流、AR/VR等,也將同步提高云端運(yùn)算系統(tǒng)的負(fù)載,顯示出高速運(yùn)算需求高漲。

由于HBM擁有比DDR SDRAM更高的帶寬和較低的耗能,無(wú)疑是建構(gòu)高速運(yùn)算平臺(tái)的最佳解決方案,從2014與2020年分別發(fā)布的DDR4 SDRAM及DDR5 SDRAM便可究其原因,兩者頻寬僅相差兩倍,且不論是DDR5或未來(lái)DDR6,在追求更高傳輸效能的同時(shí),耗電量將同步攀升,勢(shì)必拖累運(yùn)算系統(tǒng)的效能表現(xiàn)。若進(jìn)一步以HBM3與DDR5為例,前者的帶寬是后者的15倍,并且可以通過(guò)增加堆棧的顆粒數(shù)量來(lái)提升總帶寬。此外,HBM可以取代一部分的GDDR SDRAM或DDR SDRAM,從而更有效地控制耗能。

TrendForce集邦咨詢表示,目前主要由搭載NVIDIA A100、H100、AMD MI300,以及大型CSP業(yè)者如Google、AWS等自主研發(fā)ASIC的AI服務(wù)器成長(zhǎng)需求較為強(qiáng)勁,2023年AI服務(wù)器出貨量(包含搭載GPU、FPGA、ASIC等)出貨量預(yù)估近120萬(wàn)臺(tái),同比增率近38%,AI芯片出貨量同步看漲,可望成長(zhǎng)突破五成。

智通聲明:本內(nèi)容為作者獨(dú)立觀點(diǎn),不代表智通財(cái)經(jīng)立場(chǎng)。未經(jīng)允許不得轉(zhuǎn)載,文中內(nèi)容僅供參考,不作為實(shí)際操作建議,交易風(fēng)險(xiǎn)自擔(dān)。更多最新最全港美股資訊,請(qǐng)點(diǎn)擊下載智通財(cái)經(jīng)App
分享
微信
分享
QQ
分享
微博
收藏