智通財(cái)經(jīng)APP獲悉,中信建投發(fā)布研究報(bào)告稱,端側(cè)AI是AI發(fā)展下一階段,其具備獨(dú)立性、低時(shí)延等性能,能夠完成各種AI推理任務(wù),大模型小型化、端側(cè)AI框架開源等為終端硬件承載AI算法提供了可能;端側(cè)AI芯片性能提升,存儲(chǔ)、模組等升級(jí)打通了終端硬件運(yùn)行AI算法的道路。AI PC、AI Phone作為端側(cè)AI的核心持續(xù)向前發(fā)展,近期英特爾、高通、聯(lián)想等國(guó)內(nèi)外廠商持續(xù)發(fā)布相關(guān)產(chǎn)品、戰(zhàn)略規(guī)劃,打造智能終端的同時(shí)也完善相關(guān)產(chǎn)業(yè)生態(tài),看好端側(cè)AI產(chǎn)業(yè)進(jìn)展。
▍中信建投主要觀點(diǎn)如下:
端側(cè)AI是AI發(fā)展下一階段,大模型輕量化等技術(shù)推進(jìn)端側(cè)AI發(fā)展。
端側(cè)AI具備安全性、獨(dú)立性、低時(shí)延、高可靠性等特點(diǎn),能很好地完成各種AI推理任務(wù)。目前,多個(gè)大模型均已推出“小型化”和“場(chǎng)景化”版本,其輕量化提供了端側(cè)運(yùn)行基礎(chǔ)。此外,對(duì)于數(shù)據(jù)精度例如INT4、INT8的支持優(yōu)化、ExecuTorch等AI框架的開源,為端側(cè)AI進(jìn)展鋪平道路。
端側(cè)AI核心在于手機(jī)和PC,AI Phone和AI PC將開啟新時(shí)代。
從今年2月份舉行的世界移動(dòng)通信大會(huì),高通展示了其手機(jī)端離線運(yùn)行大模型,到5月份微軟開發(fā)者大會(huì)高通展示其PC運(yùn)行AI大模型,再到近期英特爾、聯(lián)想等發(fā)布AI PC加速計(jì)劃、發(fā)布首款A(yù)I PC等,可以看出,國(guó)內(nèi)外廠商持續(xù)發(fā)力AI Phone和AI PC,端側(cè)AI將走入新的時(shí)代。
AI PC核心升級(jí)在于芯片。
AI PC不同于傳統(tǒng)PC的主要之處在于其SoC芯片中要有AI模塊,通過AI芯片中的NPU等模塊為硬件終端提供算力支撐,從而運(yùn)行端側(cè)AI大模型。過去PC芯片主要是以Intel為代表的x86架構(gòu)芯片,AIPC的提出要求了SOC芯片有AI算力,在端側(cè)AI推理能力方面,過去手機(jī)上就搭載了NPU,高通經(jīng)驗(yàn)積累深厚,Intel的筆記本芯片則是CPU+GPU。
生態(tài)上,Windows也開始全力支持ARM體系,自去年開始了多輪支持Arm架構(gòu)芯片的操作系統(tǒng)更新,高通大概率會(huì)在PC市場(chǎng)上拿到部分份額。除芯片外,DRAM、計(jì)算模組等有望迎來新的升級(jí)與市場(chǎng)機(jī)遇。
看好端側(cè)AI產(chǎn)業(yè)進(jìn)展,尤其是AI Phone和AI PC領(lǐng)域,其已有相關(guān)產(chǎn)品落地,將傳統(tǒng)PC、Phone結(jié)合上AI能力有望帶動(dòng)整個(gè)PC、Phone產(chǎn)業(yè)鏈復(fù)蘇;通過將大模型賦能終端硬件,AI應(yīng)用浪潮將有望開啟。