全球存儲芯片巨頭SK海力士和美光科技(MU.US)近日均表示,其2024年的高帶寬內(nèi)存已全部售罄,而2025年的庫存也接近枯竭。晨星(Morningstar)股票研究主管Kazunori Ito在一份報告中表示:“我們預(yù)計2024年全年整體存儲芯片供應(yīng)將保持緊張?!?/p>
高性能存儲芯片在訓(xùn)練大型語言模型(LLM)中起著至關(guān)重要的作用。在大型語言模型的訓(xùn)練中,高性能存儲芯片負(fù)責(zé)記憶與用戶對話的詳細(xì)信息和偏好,從而生成類似人類的回應(yīng)。然而,由于這些芯片的制造工藝復(fù)雜,提高產(chǎn)量一直是一項挑戰(zhàn)。
納斯達(dá)克IR Intelligence的主管William Bailey警告稱:“這些芯片的制造過程更為復(fù)雜,提高產(chǎn)量一直很困難。這可能會在2024年剩余時間和2025年大部分時間造成短缺。”市場情報公司TrendForce在三月份表示,與個人電腦和服務(wù)器中常見的DDR5內(nèi)存芯片相比,高帶寬內(nèi)存的生產(chǎn)周期要長1.5到2個月。
在微軟、亞馬遜和谷歌等大型科技公司紛紛投入巨額資金用于訓(xùn)練自己的大型語言模型以保持競爭力的情況下,人工智能芯片的需求進(jìn)一步增長。這些大公司已成為人工智能芯片的大買家。它們表示,將繼續(xù)投入資源建設(shè)人工智能基礎(chǔ)設(shè)施,這意味著對包括高帶寬內(nèi)存在內(nèi)的人工智能芯片的需求將持續(xù)保持旺盛。
為了滿足市場對高性能存儲芯片激增的需求,SK海力士已經(jīng)宣布計劃在美國印第安納州投資先進(jìn)的封裝設(shè)施,并在韓國本土擴(kuò)大產(chǎn)能。與此同時,三星也表示將大幅增加其高帶寬內(nèi)存的供應(yīng)量。在今年4月的第一季度財報電話會議上,三星透露其2024年的高帶寬內(nèi)存供應(yīng)量將比去年增長三倍以上,并計劃在2025年繼續(xù)以每年至少兩倍的速度擴(kuò)大供應(yīng)。
此外,在這場人工智能熱潮中,芯片制造商們正在努力生產(chǎn)市場上最先進(jìn)的存儲芯片,力圖在這場技術(shù)競賽中搶占先機(jī)。SK海力士提出了在2026年推出HBM4的藍(lán)圖,三星電子計劃在2025年推出HBM4產(chǎn)品。不過,盡管芯片制造商們正在努力提高產(chǎn)量和技術(shù)水平,但高性能存儲芯片的供應(yīng)緊張局面可能仍將持續(xù)一段時間。