廣發(fā)證券：HBM高帶寬優(yōu)勢(shì)成為AI大模型訓(xùn)練推理關(guān)鍵 GDDR具備性價(jià)比優(yōu)勢(shì)

智通財(cái)經(jīng)APP獲悉，廣發(fā)證券發(fā)布研報(bào)指出，GDDR是專為圖形處理應(yīng)用設(shè)計(jì)的高速內(nèi)存技術(shù)，搭配GPU用于圖形處理、數(shù)據(jù)中心加速和AI等需要高帶寬數(shù)據(jù)處理的場(chǎng)景。HBM是一種新型內(nèi)存，得益于堆疊結(jié)構(gòu)和垂直TSV互連，HBM具有更高的傳輸帶寬、更高的存儲(chǔ)密度、更低的功耗以及更小的尺寸，高帶寬優(yōu)勢(shì)對(duì)大模型訓(xùn)練和推理的效率提升至關(guān)重要。近年來(lái)，大部分高端數(shù)據(jù)中心GPU和ASIC均使用HBM作為內(nèi)存方案，GDDR在推理等場(chǎng)景中具備性價(jià)比優(yōu)勢(shì)。未來(lái)，HBM技術(shù)持續(xù)向更高帶寬、更大容量發(fā)展，12Hi-16Hi HBM4有望2026年進(jìn)入量產(chǎn)。

廣發(fā)證券主要觀點(diǎn)如下：

AI存儲(chǔ)路線圖：更大容量、更大帶寬、更低功耗

隨著人工智能的快速發(fā)展，大模型的參數(shù)量指數(shù)級(jí)增長(zhǎng)，不僅推升了處理器的算力需求，同時(shí)也對(duì)與處理器匹配的內(nèi)存系統(tǒng)提出了更高的要求。一方面，大量模型數(shù)據(jù)的傳輸要求更大的內(nèi)存帶寬，以緩解“內(nèi)存墻”問(wèn)題，提升HPC系統(tǒng)計(jì)算效率；另一方面，內(nèi)存系統(tǒng)的容量需要大幅拓展，以存儲(chǔ)千億參數(shù)乃至更大規(guī)模的大模型。

如何理解內(nèi)存系統(tǒng)層級(jí)及關(guān)鍵參數(shù)？

對(duì)于單個(gè)乃至多個(gè)處理器組成的系統(tǒng)而言，內(nèi)存系統(tǒng)自下而上可以分為單元、陣列、die、封裝、系統(tǒng)幾個(gè)層級(jí)。根據(jù)處理器設(shè)計(jì)和應(yīng)用的不同，所配置的內(nèi)存類型、規(guī)格選擇和配置數(shù)量也有所不同，需要和處理器總線寬度、時(shí)鐘頻率等參數(shù)相匹配。內(nèi)存最重要的性能參數(shù)是容量、帶寬和延遲，同時(shí)還需要考慮能耗和性價(jià)比。不同類型的DRAM各有優(yōu)勢(shì)，在設(shè)計(jì)處理器系統(tǒng)架構(gòu)的時(shí)候需要針對(duì)不同的應(yīng)用，選擇合適的內(nèi)存系統(tǒng)設(shè)計(jì)。

DDR+LPDDR路線圖：面向CPU，構(gòu)建高效大容量?jī)?nèi)存系統(tǒng)

DDR是最傳統(tǒng)、最主流的DRAM類型。廣泛用于PC、服務(wù)器、HPC等領(lǐng)域。目前，DDR5是最新一代DDR標(biāo)準(zhǔn)，提供更高的速度、更高的效率和更大的容量。LPDDR正在成為數(shù)據(jù)中心CPU的新選擇，其原因是需要在大規(guī)模AI和HPC工作負(fù)載的帶寬、能效、容量和成本之間取得最佳平衡。

廣發(fā)證券指出，隨著前端先進(jìn)制造技術(shù)接近物理極限，DRAM芯片本身的性能提升越來(lái)越難，從內(nèi)存模組和系統(tǒng)架構(gòu)層面進(jìn)行性能提升成為新的方向。MCRDIMM/MRDIMM允許并行訪問(wèn)同一個(gè)DIMM中的兩個(gè)陣列，從而大幅提升DIMM模組的容量和帶寬。CXL是一種高速互連技術(shù)，提供處理器與專用加速器、高性能存儲(chǔ)系統(tǒng)之間的高效、高速、低延時(shí)接口，以滿足資源共享、內(nèi)存池化和高效運(yùn)算調(diào)度的需求。

風(fēng)險(xiǎn)提示：半導(dǎo)體行業(yè)周期性波動(dòng)風(fēng)險(xiǎn)；人工智能行業(yè)發(fā)展不及預(yù)期風(fēng)險(xiǎn)；新技術(shù)進(jìn)展不及預(yù)期風(fēng)險(xiǎn)。