國(guó)信證券:GPT 5后NLP大模型逐步走向收斂,ASIC芯片將大有可為

GPT 5后NLP大模型逐步走向收斂,ASIC將大有可為。

智通財(cái)經(jīng)APP獲悉,國(guó)信證券發(fā)布研究報(bào)告稱,GPT 5后NLP大模型逐步走向收斂,ASIC將大有可為。該行認(rèn)為,受到數(shù)據(jù)量的限制,NLP大語(yǔ)言模型的迭代或?qū)⑦M(jìn)入停滯期。在模型迭代停滯期,若應(yīng)用爆發(fā),則ASIC芯片的優(yōu)勢(shì)就顯現(xiàn)出來(lái)。ASIC針對(duì)特定需求開發(fā),可根據(jù)需求對(duì)性能和功耗進(jìn)行定向優(yōu)化,其專用的芯片架構(gòu)與高復(fù)雜度的算法相匹配,量產(chǎn)后在性能、功耗、成本方面均具有較大優(yōu)勢(shì),ASIC芯片將大有可為。關(guān)注海內(nèi)外AI ASIC龍頭,海外關(guān)注:英特爾(INTC.US)、IBM(IBM.US)等。

國(guó)信證券主要觀點(diǎn)如下:

GPT 5后NLP大模型逐步走向收斂,ASIC將大有可為。

理論來(lái)說(shuō),當(dāng)大模型的算力、數(shù)據(jù)量以及參數(shù)量同時(shí)增大的時(shí)候,整個(gè)模型的效果會(huì)越來(lái)越好。GPT-3使用的數(shù)據(jù)量為40T,預(yù)測(cè)GPT-4的數(shù)據(jù)量需求為400T,但未來(lái)數(shù)據(jù)量將不會(huì)無(wú)限增大,所以當(dāng)數(shù)據(jù)量不能增長(zhǎng)的時(shí)候,光靠算力和模型參數(shù)量增長(zhǎng),并不能增強(qiáng)模型的效果。換言之,受到數(shù)據(jù)量的限制,NLP大語(yǔ)言模型的迭代或?qū)⑦M(jìn)入停滯期。在模型迭代停滯期,若應(yīng)用爆發(fā),則ASIC芯片的優(yōu)勢(shì)就顯現(xiàn)出來(lái)。ASIC針對(duì)特定需求開發(fā),可根據(jù)需求對(duì)性能和功耗進(jìn)行定向優(yōu)化,其專用的芯片架構(gòu)與高復(fù)雜度的算法相匹配,量產(chǎn)后在性能、功耗、成本方面均具有較大優(yōu)勢(shì),ASIC芯片將大有可為。

頭部廠商紛紛切入AI ASIC領(lǐng)域,技術(shù)路徑不同。

谷歌15年發(fā)布第一代TPU(ASIC)產(chǎn)品,TPU產(chǎn)品持續(xù)迭代升級(jí);英特爾19年收購(gòu)人工智能芯片公司Habana Labs,22年發(fā)布AI ASIC芯片Gaudi 2,性能表現(xiàn)出色;IBM研究院22年底發(fā)布AI ASIC芯片AIU,有望23年上市;三星第一代AI ASIC芯片Warboy NPU芯片已于近日量產(chǎn)。頭部廠商紛紛切入 AI ASIC領(lǐng)域,看好ASIC在人工智能領(lǐng)域的長(zhǎng)期成長(zhǎng)性。

谷歌:谷歌為AI ASIC芯片的先驅(qū),于15年發(fā)布第一代TPU(ASIC)產(chǎn)品,大幅提升AI推理的性能;

17年發(fā)布TPU v2,在芯片設(shè)計(jì)層面,進(jìn)行大規(guī)模架構(gòu)更新,使其同時(shí)具備AI推理和AI訓(xùn)練的能力;谷歌TPU產(chǎn)品持續(xù)迭代升級(jí),21年發(fā)布TPU v4,采用7nm工藝,峰值算力達(dá)275 TFLOPS,性能表現(xiàn)全球領(lǐng)先。

英特爾:19年底收購(gòu)以色列人工智能芯片公司Habana Labs,22年發(fā)布Gaudi 2 ASIC芯片。

從架構(gòu)來(lái)看,Gaudi架構(gòu)擁有雙計(jì)算引擎(MME和TPC),可以實(shí)現(xiàn)MME和TPC并行計(jì)算,大幅提升計(jì)算效率;同時(shí),其將RDMA技術(shù)應(yīng)用于芯片互聯(lián),大幅提升AI集群的并行處理能力;從性能來(lái)看,Gaudi 2在ResNET-50、BERT、BERT Phase-1、BERT Phase-2模型的訓(xùn)練吞吐量?jī)?yōu)于英偉達(dá)A100,性能表現(xiàn)優(yōu)異。

風(fēng)險(xiǎn)提示:宏觀經(jīng)濟(jì)波動(dòng);下游需求不及預(yù)期;AI倫理風(fēng)險(xiǎn);模型仍處于快速迭代期,ASIC芯片發(fā)展不及預(yù)期。

智通聲明:本內(nèi)容為作者獨(dú)立觀點(diǎn),不代表智通財(cái)經(jīng)立場(chǎng)。未經(jīng)允許不得轉(zhuǎn)載,文中內(nèi)容僅供參考,不作為實(shí)際操作建議,交易風(fēng)險(xiǎn)自擔(dān)。更多最新最全港美股資訊,請(qǐng)點(diǎn)擊下載智通財(cái)經(jīng)App
分享
微信
分享
QQ
分享
微博
收藏