智通財經(jīng)APP獲悉,CPU與GPU雙產(chǎn)業(yè)巨頭、英偉達(NVDA.US)競爭對手之一AMD(AMD.US)于美東時間周三舉行“Advancing AI”發(fā)布會,AMD宣布正式推出其旗艦款A(yù)I GPU加速器MI300X,意味著AMD與英偉達之間的激烈競爭從PC領(lǐng)域全面延伸至AI領(lǐng)域,AMD測試數(shù)據(jù)顯示其整體性能比英偉達H100高出60%。除了如預(yù)期發(fā)布諸如Instinct MI300X、MI300A等新產(chǎn)品外,在AI領(lǐng)域的一些全球領(lǐng)軍者也來到現(xiàn)場,比如OpenAI、微軟以及Meta,并表示他們后續(xù)將大量配置AMD Instinct MI300X。
“Advancing AI”發(fā)布會上,首先登場的是Instinct MI300X加速器,由于MI300系列AI芯片的參數(shù)在半年前的產(chǎn)品宣傳活動上就已經(jīng)公布,本次“Advancing AI”發(fā)布會更多聚焦于整套系統(tǒng)在實際應(yīng)用中的表現(xiàn),以及與AI訓(xùn)練/推理領(lǐng)域熱度最高的英偉達H100 AI芯片的全方位性能對比。此外,AMD將截至2027年的全球AI芯片市場規(guī)模預(yù)期,從1500億美元猛然上修至4000億美元。
AI領(lǐng)域的全球領(lǐng)軍者OpenAI、微軟(MSFT.US)以及Meta(META.US)周三在AMD活動上表示,他們將使用AMD最新的AI芯片Instinct MI300X。這是迄今為止全球科技公司正在尋找昂貴的英偉達H100 AI芯片替代品的最明顯跡象。英偉達H100對于創(chuàng)建和部署OpenAI旗下的ChatGPT等生成式人工智能(生成式AI)應(yīng)用程序至關(guān)重要,如今AI芯片領(lǐng)域幾乎處于壟斷地位的英偉達H100終于有了強力競爭對手,那就是AMD Instinct MI300X。
如果AMD最新的高端AI芯片在明年初開始出貨時,足以滿足構(gòu)建人工智能大模型的科技公司和云服務(wù)提供商的算力需求,同時降低科技公司開發(fā)人工智能模型的成本,勢必將對英偉達旗下銷售額不斷飆升的AI芯片構(gòu)成巨大的競爭壓力。
AMD首席執(zhí)行官蘇姿豐(Lisa Su)周三表示:“潛在大客戶的所有興趣基本上集中在云計算領(lǐng)域的大型處理器和大型GPU上?!?/p>
AMD表示,MI300X基于一種全新的架構(gòu),這種架構(gòu)通常會帶來顯著的性能提升。AMD 全新AI芯片最顯著的特點是擁有192GB的尖端高性能HBM3內(nèi)存,傳輸數(shù)據(jù)速度更快,可以適應(yīng)更大規(guī)模的人工智能模型。
被AMD粉絲們親切稱為“蘇媽”的蘇姿豐在發(fā)布會上直接將MI300X及其構(gòu)建的系統(tǒng)與英偉達的主要AI芯片H100進行了比較?!斑@種性能直接轉(zhuǎn)化為更好的用戶體驗,”蘇姿豐表示。“當你向模型提出要求時,你希望它能更快地回復(fù),尤其是在反應(yīng)變得更復(fù)雜的情況下?!?/p>
AMD面臨的主要問題在于,一直以英偉達軟硬件為基礎(chǔ)的公司是否會投入時間和金錢來信任另一家AI芯片供應(yīng)商。AMD周三告訴投資者和合作伙伴,該公司已經(jīng)改進了名為ROCm的配套軟件套件,以與英偉達的行業(yè)標準CUDA軟件相競爭,一定程度上解決了AMD在AI芯片領(lǐng)域面臨的一個關(guān)鍵缺陷——那就是軟硬件生態(tài)系統(tǒng),而這個缺陷一直是人工智能開發(fā)者目前更喜歡英偉達旗下產(chǎn)品的主要原因之一。
AMD在周三并未透露MI300X的定價,但英偉達AI芯片每塊售價高達4萬美元,蘇姿豐表示,AMD的芯片必須比英偉達的芯片購買和運營成本更低,才能說服潛在大客戶購買。
雖然發(fā)布會的內(nèi)容基本上符合市場預(yù)期,但似乎未提振AMD股價。在周三美股科技股集體走弱的背景下,AMD發(fā)布會還沒開完,股價就由漲轉(zhuǎn)跌,最終收跌超1%,但是盤后漲幅超過1%。
由于AMD即將推出與英偉達H100相抗衡的高性能AI 芯片,華爾街分析師們對于AMD股價普遍看漲,Seeking Alpha匯編的華爾街分析師共識評級以及目標價顯示,華爾街分析師們對AMD的共識評級為“買入”,平均目標價預(yù)期達132.24美元,意味著未來12個月潛在漲幅高達13%,最高目標價則為200美元。
性能強于英偉達H100! AMD大幅上調(diào)市場規(guī)模預(yù)期
與AI訓(xùn)練/推理領(lǐng)域熱度最高的英偉達H100 AI芯片的最新性能對比數(shù)據(jù)顯示,在一般LLM內(nèi)核TFLOP中,MI300X在FlashAttention-2和Llama 2 70B中提供較英偉達H100高達20%的性能提升幅度。從平臺的角度來看,將8x MI300X解決方案與8x 英偉達H100解決方案進行比較,AMD發(fā)現(xiàn)Llama 2 70B的增益程度要大得多,高達40%,Bloom 176B基準下的增益程度則高達60%。
具體的AMD Instinct MI300X與英偉達H100性能對比數(shù)據(jù)顯示:
在1v1比較中,整體性能比H100 (Llama 2 70B)提高20%
在1v1比較中,整體性能比H100 (FlashAttention 2)提高20%
8v8 服務(wù)器中的整體性能比 H100 (Llama 2 70B) 提高40%
在8v8服務(wù)器中,整體性能比 H100 (Bloom 176B) 提高60%
最新 MI300 AI芯片背后的驅(qū)動力是AMD ROCm 6.0。該軟件堆棧已更新到最新版本,具有強大的新功能,包括支持各種人工智能工作負載任務(wù)量,例如生成式人工智能和大語言模型(LLM)。
內(nèi)存是AMD另一個巨大的升級領(lǐng)域,MI300X的HBM3容量比其前身MI250X(128 GB)增加了50%。為了實現(xiàn)高達192GB的內(nèi)存池,AMD為MI300X配備了8個HBM3堆棧,每個堆棧都是12-Hi,同時整合了16Gb IC,每個IC具有2GB容量,或每個堆棧具有高達24GB的容量。
該級別的內(nèi)存規(guī)模將提供高達5.3TB/s的帶寬和896GB/s的Infinity Fabric帶寬。相比之下,英偉達即將推出的H200 AI芯片提供141GB容量,而英特爾Gaudi3 將提供141GB容量。功耗方面,AMD Instinct MI300X的額定功率為750W,比Instinct MI250X的500W提升了50%,比NVIDIA H200多了50W。
AMD在周三對AI芯片領(lǐng)域的未來市場規(guī)模給出了大膽的預(yù)測數(shù)據(jù),認為AI芯片市場將迅猛擴張。具體來說,AMD預(yù)計AI芯片市場整體規(guī)模到2027年將達到超過4000億美元,較該公司幾個月前提供的1500億美元上調(diào)將近兩倍,凸顯全球各大企業(yè)對人工智能硬件的預(yù)期快速變化,各企業(yè)正在迅速布局全新的AI產(chǎn)品。
有哪些科技巨頭將使用MI300X?
AMD在周三的發(fā)布會上表示,該公司已經(jīng)與一些最需要GPU的科技公司簽訂了使用該芯片的協(xié)議。根據(jù)研究公司Omidia最近的一份報告,Meta和微軟是2023年英偉達H100 AI芯片的最大規(guī)模買家。
在發(fā)布會上,Facebook和Instagram母公司Meta公開表示,該公司未來將大量使用MI300X GPU處理人工智能推理工作負載,如處理人工智能貼紙、圖像編輯和操作其AI助手,并表示結(jié)合ROCm 軟件堆棧來支持AI推理工作負載。
微軟首席技術(shù)官Kevin Scott公開表示,微軟將通過其Azure網(wǎng)絡(luò)服務(wù)提供對MI300X芯片的技術(shù)訪問通道。此外,同日消息顯示,微軟未來將評估對AMD的AI芯片產(chǎn)品的需求,評估采用該新品的可行性。
ChatGPT開發(fā)商OpenAI表示,該公司將在一款名為Triton的重要軟件產(chǎn)品中支持AMD MI300等GPU。Triton不是像GPT-4那樣的大語言模型,但對于人工智能研究領(lǐng)域來說是非常重要的產(chǎn)品。
英偉達最大規(guī)??蛻糁患坠俏谋硎?,將在自己的云計算服務(wù)體系中使用Instinct MI300X加速器,并計劃基于AMD Instinct MI300X開發(fā)生成式AI服務(wù)。
AMD目前還沒有預(yù)測該AI芯片的長期銷售額,目前只給出了2024年預(yù)期,預(yù)計2024年數(shù)據(jù)中心GPU帶來的總營收規(guī)模約為20億美元。僅在最近一個季度,英偉達的數(shù)據(jù)中心業(yè)務(wù)營收就超過140億美元,不過這一數(shù)據(jù)還包括GPU以外的業(yè)務(wù)。然而,AMD表示,未來四年,AI芯片領(lǐng)域的總市場規(guī)模可能將攀升至4000億美元,是該公司此前預(yù)測值的兩倍。
蘇姿豐還向記者表示,AMD并不認為它需要擊敗英偉達才能在市場上取得好成績。在談到人工智能芯片市場時,蘇姿豐對記者表示:“我認為很明顯,英偉達現(xiàn)在占據(jù)絕大多數(shù)。”“我們認為,到2027年,AI芯片市場規(guī)??赡軙^4000億美元,而我們將扮演重要角色?!?/p>