英偉達(NVDA.US)24Q3業(yè)績會:擴大生成式AI影響范圍,預計2025年將持續(xù)增長

AI浪潮將從初創(chuàng)企業(yè)、CSP向消費互聯(lián)網(wǎng)客戶推進,并向企業(yè)客戶發(fā)展,英偉達AI和英偉達Omniverse也有望結合。

智通財經APP獲悉,英偉達(NVDA.US)召開2024Q3業(yè)績會,英偉達指出,公司預計2025年也將持續(xù)增長。AI浪潮將從初創(chuàng)企業(yè)、CSP向消費互聯(lián)網(wǎng)客戶推進,并向企業(yè)客戶發(fā)展,英偉達AI和英偉達Omniverse也有望結合。一切的轉變是全面的,將影響每個公司、每個行業(yè)、每個國家。

經營表現(xiàn)

游戲業(yè)務:推出DLSS3.5; 發(fā)布適用于Vindows平臺的TensorRT-LLM,可將設備端LLM推理速度提高4倍;RTX安裝量超1億。

數(shù)據(jù)中心業(yè)務:

計算:推出配置HBM3E內存的H200,預計明年Q2上市,Amazon Web Services、Google Cloud、Microsoft Azure和Oracle Cloud將使用 H200;推出Al Foundry代工服務,將與Azure合作。

推理:TensorRT LLM使GPU實現(xiàn)2倍以上的推理性能或一半的LLM推理成本。

網(wǎng)絡:Spectrum-X平臺將于明年一季度導入戴爾、惠普、聯(lián)想服務器;網(wǎng)絡年化run rate已經超過100億美元,主要受InfiniBand推動。

軟件:今年有望實現(xiàn)10億美元的軟件、支持和服務收入,DGX cloud、A1 企業(yè)軟件為公司創(chuàng)造了更多的業(yè)務機會。

項目進展

1)Google Cloud Platform在Google Cloud Marketplace中普遍提供了由 NVIDIA H1O0 Tensor Core GPU和NVIDIA Al Enterprise軟件提供支持的新A3實例;

2)Microsoft Azure將為客戶提供NVIDIA Omniverse TM云服務的訪問權 限,以加速汽車數(shù)字化,以及采用NVLH100 Tensor Core GPU和具有機密計算功能的H100的新實例,H200GPU將于明年推出。

3)Oracle云基礎設施使NVIDIA DGX Cloud和NVIDIA Al Enterprise軟件在Oracle Cloud Marketplace中可用。

國家級AI基建

1)公司積極參與國家級A1基建項目,比如與印度政府和印度最大的科技公司 展開合作,以及與法國私有云服務商簡歷基于H100、InfiniBand和Al企業(yè)軟件的區(qū)域AI云項目;

2)公司本季度向LaSalle、Localimos、國家實驗室、瑞士國家超級計算機中 心交付Grace Hopper系統(tǒng);

3)英國政府宣布將建設超級計算機Isambard-Al,配置5500個Grace Hopper超級芯片和Quantum2 InfiniBand系統(tǒng);

4)公司預計明年美國、歐洲、日本所有基于Grace Hopper建設的超級計算機算力總和將超過200 exaflops; 國家級A!基建意味著未來幾年數(shù)十億美元的機會。

專業(yè)可視化業(yè)務:宣布奔馳正使用NVIDIA Omniverse創(chuàng)建數(shù)字李生,汽車與自動駕駛業(yè)務:進一步與富士康合作,將基于下一代NVIDIA DRIVE HyperionTM平臺和NVIDIA DRIVE ThorTM開發(fā)電車。

出口管制:A100、A800、H100、H800和L40S不得向中國和沙特阿拉伯、阿聯(lián)酋等國出口,相關地區(qū)客戶過去幾年占數(shù)據(jù)中心收入20%-25%,該政策未對Q3產生重大影響,但會約束Q4經營活動,不過其他地區(qū)的強勁需求將抵消這個消極影響;公司正在積極擴展產品組合,以符合監(jiān)管規(guī)定。庫存47.79億美元(YoY+7.3%,QoQ+10.7%),Ampere相關的GPU庫存釋放帶來1pcts的收益;預付款12.89億美元(YoY+79.5%,QoQ-7.2%)。

業(yè)績表現(xiàn): 收入181.20億美元,指引區(qū)間為156.8-163.2億美元,F(xiàn)actset一致預期為161.91億美元;GAAP毛利率74.0%, 指引區(qū)間為71.0-72.0%;

Non-GAAP毛利率75.0%, 指引區(qū)間為72.0-73.0%; GAAP凈利潤92.43億美元,市場一致預期為76.92億美元

Non-GAAP凈利潤100.20億美元,市場一致預期為83.08億美元;GAAP稀釋EPS為3.71美元:

業(yè)績表現(xiàn)按終端場景

數(shù)據(jù)中心業(yè)務:收入145.14億美元, 受益于40系產品的強勁需求和渠道庫存的正?;?/p>

游戲業(yè)務:收入28.56億美元, 收入主要由Hopper產品推動,Ampere占比較低,L40S和GH200開始產生收入:計算同比增長324%,環(huán)比增長38%;網(wǎng)絡同比增長155%,環(huán)比增長52%,受InfiniBand推動。CSP和消費互聯(lián)網(wǎng)客戶占比各半。

專業(yè)可視化業(yè)務:收入41.6億美元, 主要受企業(yè)工作站、基于Ada Lovelace筆記本工作站的需求推動。

汽車與自動駕駛業(yè)務:收入2.61億美元(YoY+4%,QoQ+3%),同比增幅 反映智能座艙、自動駕駛的增長;

OEM&其他業(yè)務:收入0.73億美元。

業(yè)績表現(xiàn)一按部門

計算與網(wǎng)絡:收入146.45億美元。圖像:收入34.75億美元。

FY2Q24指引

收入:196-204億美元,中值200億美元,市場一致預期為179.58億美元GAAP毛利率74-75%;Non-GAAP毛利率75-76%;GAAP運營費用31.7億美元;Non-GAAP運營費用22億美元:GAAP/Non-GAAP稅率14-16%。

Q&A

Q:中國市場Q4將帶來多少收入?公司認為AI處于什么位置?考慮到明年數(shù)據(jù)中心數(shù)據(jù)支出可能要增長30%,未來的可持續(xù)性是什么?公司關注什么指標?

A:(1)相關地區(qū)收入過去幾年占數(shù)據(jù)中心收入20%-25%,預計Q4后會大幅下降,目前仍無法評估政策的長期影響程度,不過公司會盡力推出新產品,新產品將于未來幾個月上市,以滿足新法規(guī)的要求,不過預計這些市 場在Q4的共享都仍然較低。

(2)生成式AI是公司幾十年來見到最大的軟件、硬件TAM增長機會,它將應用于很多不同場景。軟件行業(yè)方面,它將改變行業(yè)通過人工構建工具的模式,copilot和其他助手工具將幫助人們開發(fā)和使用軟件,軟件的這種轉變會反過來改變底層的硬件。

(3)加速計算方面,加速計算效率顯著高于通用計算,這能夠減少時間和能耗成本。新型數(shù)據(jù)中心將增強這點,傳統(tǒng)數(shù)據(jù)中心一般是多個用戶租賃,并運行不同程序、儲存不同資料,但新數(shù)據(jù)中心只會用于專一或少量應用,公司稱新數(shù)據(jù)中心為AI工廠。公司看到各個國家都在建設AI工廠,大語言模型初創(chuàng)公司、生成式AI初創(chuàng)公司、消費互聯(lián)網(wǎng)客戶都在其中,此外也有國家級AI基礎建設項目。隨著AI在各個行業(yè)、各個公司、各個地區(qū)滲透,市場將會看到新的發(fā)展,公司正處于計算方式轉變的拐點

Q:公司如何看待以太網(wǎng)的加入?spectrum與傳統(tǒng)以太網(wǎng)相比有什么優(yōu)勢?未來能帶來多少增量?

A:網(wǎng)絡run rate已超過100億美元,而且會變得更大。

(1)絕大多數(shù)Al工廠都建立在InfiniBand,InfiniBand速率高、延遲低,而且適用于Al所需要的東西流向,借助InfiniBand和軟件定義網(wǎng)絡,用戶可以控制網(wǎng)絡擁塞、自適應路由、性能隔離、噪聲隔離。

(2)InfiniBand不僅是網(wǎng)絡,它也可視為計算架構,交換機上由浮點計算的架構,這是InfiniBand和以太網(wǎng)的巨大差異,對于一個20億美元的基礎設施,InfiniBand和以太網(wǎng)的效率差異可能達到20%-30%,InfiniBand的價值是不可否認的。

(3)但對于企業(yè)級客戶而言,他們并不一定需要這么大的模型,而需要專業(yè)化、定制化的模型,比如公司近期正在創(chuàng)建的chip nemo,對于這種級別的模型訓練,公司希望能夠在以太網(wǎng)環(huán)境運行,公司擴建了以太網(wǎng)新平臺,可以兼容以太網(wǎng),同時對東西流量做優(yōu)化,并通過Bluefield和 spectrum交換機形成端到端的方案,能夠部分達到InfiniBand的效果;

(4)公司也在和合作伙伴一起合作,比如HPE、聯(lián)想,通過他們的銷售網(wǎng)絡,有助于將端到端A!以太網(wǎng)方案導入全球企業(yè)客戶。

Q:Grace HopperTAM多少?與單純的H1O0相比,Grace Hopper的價值是什么?

A:Grace hopper已投入量產,預計明年會在HPC、Al獲得設計勝利,公司正在以非常快的速度將數(shù)據(jù)中心CPU發(fā)展為價值數(shù)十億美元的產品線。Grace Hopper能夠創(chuàng)建非???、非常大的內存,并支持REG(檢索增強生成),還可以進一步擴展上下文長度。此外,Grace也為那些想要非X86的客戶提供新的選項,比如一些歐洲超級計算機項目客戶希望ARM架構,Grace符合他們的需求。

Q:收入可見度有多高?公司對CY25有什么預期?

A:公司預計2025年也將持續(xù)增長。

(1)HGX是一個零件非常多,結構非常復雜,制造、測試、運輸也非常復雜的系統(tǒng),但團隊正出色的擴展供應鏈,并增加新的產品和新的客戶,尤其是國家級AI基建。

(2)此外,公司也在為企業(yè)提供更多價值,包括2個形式:(1)ChatGPT等現(xiàn)成的Al模型;(2)企業(yè)專有的、定制的Al模型.公司可以通過Al Foundry的新服務為企業(yè)客戶定制他們的Al模型和應用,公司能夠提供計算、網(wǎng)絡硬件以及AI企業(yè)軟件堆棧,并通過HPE、DELL和聯(lián)想等合作伙伴提供服務。

因此,公司看到AI浪潮將從初創(chuàng)企業(yè)、CSP向消費互聯(lián)網(wǎng)客戶推進,并向企業(yè)客戶發(fā)展,英偉達AI和英偉達Omniverse也有望結合。一切的轉變是全面的,將影響每個公司、每個行業(yè)、每個國家。

Q:面向中國等市場的新產品為什么Q4無法上市?如果將在明年上市,是否預期會成為Q1的另一個增長驅動力?還是這部分產品單價會比較低,影響有限?

A:公司將確保和美國政府充分討論,讓他們了解公司新產品的意圖,同時也需要時間研究客戶需求、與客戶進行討論。目前公司正在試圖取得平衡,能披露的信息有限。

Q:Al Foundry的盈利模式?與合作伙伴的關系?

A:(1)Al Foundry是一個很大的機遇。公司已經宣布與SAP、ServiceNow、Dropbox、Getty的合作,未來還會有更多平臺,企業(yè)客戶希望有他們自己的專用A!,但又無法承擔將核心情報、數(shù)據(jù)交給其他外包團隊的風險,他們就會來找英偉達合作。有幾個事情對Al Foundry很重要,一方面是AI技術能力,另一方面是需要知道最佳方案,最后是需要有獨特的工廠,對于公司而言就是DGX Cloud。公司用于創(chuàng)建AI的CAD系統(tǒng)稱為NEMO,在被稱為DGX Cloud的英偉達工廠上運行,每一個合作伙伴都會在DGX Cloud上租用一部分,并帶來他們在各自領域的專業(yè)知識和數(shù)據(jù),然后公司為他們定制AI,一切都在英偉達產品上運行,有充足的安全性,也能提供持續(xù)的修補、優(yōu)化支持。

(2)Al Enterprise的價格是每年4500美元,基本上是許可證模式,公司的基本業(yè)務是幫助客戶創(chuàng)建自定義模型,然后再Al Enterprise上面運行。

Q:公司在數(shù)據(jù)中心的交付時間?如果Q4沒有中國出口管制,展望會更高嗎?

A:公司仍然在逐季度改善供應。如果沒有出口管制,Q4展望會更高。

Q:公司如何在AI推理保持差異化優(yōu)勢?CUDA如何加速訓練之前的負載?

A:(1)公司本季度推出了一個非常好的編譯器TensorRT LLM,他在 GitHub的下載量非常大,在同樣的GPU上,TensorRT LLM可以帶來2倍的性能提升,加上H200的2倍性能,意味著推理性能在近一年提升了4倍。

(2)推理引擎受到歡迎的原因是安裝基礎,幾乎每個行業(yè)的公司都在使用公司的產品,而且他們在架構上是兼容的,公司讓市場看到公司平臺的穩(wěn)定性和確定性,這會吸引他們優(yōu)先在英偉達平臺進行開發(fā)、優(yōu)化:

(3)如果你是一個軟件應用供應商,首先在訓練之前的數(shù)據(jù)處理方面,這些數(shù)據(jù)是以TB和PB為量級的,體量非常大,可能占總工程量的30%-50%;公司正在通過CUDA加速Pandas數(shù)據(jù)科學框架,使用者無需新增任何代碼,這有效提高數(shù)據(jù)處理效率。

Q:考慮到更積極的路線圖規(guī)劃,公司研發(fā)運營會有什么調整?公司采取什么措施?

A:(1)公司加速的原因是新產品可以從根本上降低客戶的使用成本,此外軟件也有所提升;另一方面是試圖擴大生成式AI的影響范圍。

(2)公司正在和每一個CSP合作,每個CSP的平臺都不一樣,但公司已經將集成到所有CSP的堆棧中,并保持良好的合作,公司的產品可以投入超級計算機、企業(yè)等場景,并正在把所有產品推向市場。因此,復雜性包括技術、細分市場和速度,以及對架構兼容性的保持。每家計算機公司都能夠不假思索的將英偉達集成到他們的路線圖并推向市場,公司在各個細分市場都有足夠的需求。

(3)最后,公司又數(shù)據(jù)中心端到端方案,覆蓋包括InfiniBand、以太網(wǎng)、 X86和ARM, 幾乎提供了所有組合的可能性,這意味著擁有最多數(shù)量的生態(tài)系統(tǒng)軟件開發(fā)人員、最大的系統(tǒng)制造商生態(tài)系統(tǒng)和最大的分銷網(wǎng)絡,這肯定會需要很多資源,但重要的是一切在架構上是兼容的。當公司為云優(yōu)化TensorRT時,也針對企業(yè)客戶進行優(yōu)化,這種兼容性原則已經持續(xù)幾十年,是英偉達始終高效的原因,公司有28萬名員工,能夠為全球每一個公司、行業(yè)、市場服務。

智通聲明:本內容為作者獨立觀點,不代表智通財經立場。未經允許不得轉載,文中內容僅供參考,不作為實際操作建議,交易風險自擔。更多最新最全港美股資訊,請點擊下載智通財經App
分享
微信
分享
QQ
分享
微博
收藏