英偉達(dá)(NVDA.US)23Q2業(yè)績(jī)會(huì)紀(jì)要：營(yíng)收翻番碾壓預(yù)期 預(yù)計(jì)明年每個(gè)季度增加產(chǎn)品供應(yīng)

【業(yè)績(jī)概況】

我們的第二季度收入達(dá)到創(chuàng)紀(jì)錄的135.1億美元，環(huán)比增長(zhǎng)88%，同比增長(zhǎng)101%，高于我們預(yù)期的110億美元。

數(shù)據(jù)中心：收入達(dá)到創(chuàng)紀(jì)錄的103.2億美元，環(huán)比增長(zhǎng)141%，同比增長(zhǎng)171%。

計(jì)算業(yè)務(wù)收入同比增長(zhǎng)近兩倍，主要得益于云服務(wù)提供商和大型消費(fèi)互聯(lián)網(wǎng)公司需求的加速增長(zhǎng)。HGX平臺(tái)是生成式人工智能和大型語(yǔ)言模型的引擎，包括AWS、Google Cloud、Meta、Microsoft Azure和Oracle Cloud在內(nèi)的大型公司以及越來(lái)越多的GPU云提供商正在批量部署基于我們的TensorCoreGPU的HGX系統(tǒng)。在我們的端到端網(wǎng)絡(luò)平臺(tái)的推動(dòng)下，網(wǎng)絡(luò)業(yè)務(wù)的收入幾乎同比翻了一番。

市場(chǎng)對(duì)英偉達(dá)?（NVIDIA?）加速計(jì)算和人工智能平臺(tái)有著巨大的需求。我們的供應(yīng)合作伙伴在提升產(chǎn)能以支持我們的需求方面表現(xiàn)出色。我們的數(shù)據(jù)中心供應(yīng)鏈，包括擁有35000個(gè)部件和高度復(fù)雜網(wǎng)絡(luò)的HGX，是在過(guò)去十年中建立起來(lái)的。我們還為COWOS包裝等生產(chǎn)流程中的關(guān)鍵步驟開(kāi)發(fā)了更多的產(chǎn)能和供應(yīng)商，并對(duì)其進(jìn)行了資格認(rèn)證。我們預(yù)計(jì)明年每個(gè)季度的供應(yīng)量都會(huì)增加。

按地域劃分，美國(guó)的數(shù)據(jù)中心增長(zhǎng)最為強(qiáng)勁，因?yàn)榭蛻魧⑵滟Y本投資轉(zhuǎn)向了人工智能和加速計(jì)算。中國(guó)的需求在我們數(shù)據(jù)中心收入（包括計(jì)算和網(wǎng)絡(luò)解決方案）的20-25%的歷史范圍內(nèi)。

關(guān)于我們對(duì)華出口可能面臨的監(jiān)管加強(qiáng)問(wèn)題：我們認(rèn)為目前的監(jiān)管正在取得預(yù)期效果。鑒于全球?qū)ξ覀儺a(chǎn)品的強(qiáng)勁需求，我們預(yù)計(jì)，如果對(duì)我們的數(shù)據(jù)中心GPU實(shí)施額外的出口限制，不會(huì)對(duì)我們的財(cái)務(wù)業(yè)績(jī)產(chǎn)生直接的重大影響。然而，從長(zhǎng)遠(yuǎn)來(lái)看，禁止向中國(guó)銷(xiāo)售我們的數(shù)據(jù)中心GPU的限制措施一旦實(shí)施，將使美國(guó)產(chǎn)業(yè)永久失去在全球最大市場(chǎng)之一競(jìng)爭(zhēng)和領(lǐng)先的機(jī)會(huì)。

本季度，我們的云服務(wù)提供商對(duì)HGX系統(tǒng)的需求異常強(qiáng)勁，因?yàn)樗麄冋谶M(jìn)行升級(jí)數(shù)據(jù)中心基礎(chǔ)設(shè)施，以迎接加速計(jì)算和人工智能的新時(shí)代。NvidiaHGX平臺(tái)是近二十年來(lái)硅系統(tǒng)、互連、網(wǎng)絡(luò)、軟件和算法全棧創(chuàng)新的結(jié)晶。由Nvidia H100 Tensor Core GPU驅(qū)動(dòng)的實(shí)例現(xiàn)已在AWS、Microsoft Azure和幾家GPU云提供商上普遍提供，不久還將提供其他實(shí)例。消費(fèi)互聯(lián)網(wǎng)公司也推動(dòng)了非常強(qiáng)勁的需求。它們?cè)趯槿斯ぶ悄艽蛟斓臄?shù)據(jù)中心基礎(chǔ)設(shè)施上的投資已經(jīng)產(chǎn)生了可觀的回報(bào)。例如，META最近強(qiáng)調(diào)，自推出reels（短視頻）和人工智能推薦以來(lái)，用戶在Instagram上的花費(fèi)時(shí)間增加了24%以上。企業(yè)也在競(jìng)相部署生成式人工智能，從而推動(dòng)了英偉達(dá)云計(jì)算實(shí)例的強(qiáng)勁消費(fèi)，以及對(duì)內(nèi)部部署基礎(chǔ)設(shè)施的需求。

無(wú)論我們是通過(guò)合作伙伴還是直接在云端或內(nèi)部為客戶提供服務(wù)，他們都可以通過(guò)訪問(wèn)我們的加速庫(kù)、保留模型和API在英偉達(dá)人工智能企業(yè)軟件上無(wú)縫運(yùn)行應(yīng)用。我們宣布與Snowflake建立合作伙伴關(guān)系，為企業(yè)提供加速路徑，使其能夠使用自己的專有數(shù)據(jù)創(chuàng)建定制的生成式AI應(yīng)用程序，所有這些都安全地置于Snowflake數(shù)據(jù)云中。

借助用于開(kāi)發(fā)大型語(yǔ)言模型的NvidiaNeMo平臺(tái)，企業(yè)將能夠直接從Snowflake數(shù)據(jù)云中為聊天機(jī)器人、搜索和摘要等高級(jí)人工智能服務(wù)定制大模型。幾乎每個(gè)行業(yè)都能從生成式人工智能中受益。例如，微軟剛剛宣布的AICo-Pilots可以提高十多億辦公人員和數(shù)千萬(wàn)軟件工程師的工作效率。法律服務(wù)、銷(xiāo)售、客戶支持和教育領(lǐng)域的數(shù)百萬(wàn)專業(yè)人士將可以利用人工智能系統(tǒng)對(duì)其領(lǐng)域進(jìn)行培訓(xùn)。

AICo-Pilots將為我們的客戶創(chuàng)造數(shù)千億美元的新市場(chǎng)機(jī)會(huì)。我們看到了生成式人工智能在營(yíng)銷(xiāo)、媒體和娛樂(lè)領(lǐng)域的一些最早應(yīng)用。全球最大的營(yíng)銷(xiāo)和傳播服務(wù)機(jī)構(gòu)WPP正在利用Nvidia omniverse開(kāi)發(fā)一個(gè)內(nèi)容引擎，使藝術(shù)家和設(shè)計(jì)師能夠?qū)⑸墒饺斯ぶ悄芗傻?D內(nèi)容創(chuàng)作中。WPP設(shè)計(jì)師可以根據(jù)文本提示創(chuàng)建圖像，同時(shí)利用Nvidia Picasso作為視覺(jué)設(shè)計(jì)定制生成式人工智能模型的代工廠，從Adobe和GettyImages等英偉達(dá)合作伙伴那里獲得經(jīng)過(guò)負(fù)責(zé)任訓(xùn)練的生成式人工智能工具和內(nèi)容。視覺(jué)內(nèi)容提供商Shutterstock也在使用NvidiaPicasso構(gòu)建工具和服務(wù)，使用戶能夠在生成式AI的幫助下創(chuàng)建3D可視背景。

我們與ServiceNow和埃森哲合作推出了人工智能燈塔計(jì)劃（AI Lighthouse Program），以快速跟蹤企業(yè)人工智能能力的發(fā)展。人工智能燈塔計(jì)劃將ServiceNow企業(yè)自動(dòng)化平臺(tái)和引擎與Nvidia加速計(jì)算以及埃森哲咨詢和部署服務(wù)結(jié)合在一起。我們還與HuggingFace合作，簡(jiǎn)化企業(yè)創(chuàng)建新的定制人工智能模型的過(guò)程。HuggingFace將為企業(yè)提供一項(xiàng)新服務(wù)，以訓(xùn)練由NvidiaDGX云驅(qū)動(dòng)的高級(jí)人工智能模型。就在昨天，VMware和Nvidia宣布推出一項(xiàng)名為VMwarePrivateAIFoundationWithNvidia的重要新企業(yè)產(chǎn)品。這是一個(gè)完全集成的平臺(tái)，具有來(lái)自Nvidia的AI軟件和加速計(jì)算，以及面向運(yùn)行VMware的企業(yè)的多云軟件。VMware的數(shù)十萬(wàn)企業(yè)客戶將可以訪問(wèn)定制模型和運(yùn)行智能聊天機(jī)器人、輔助、搜索和總結(jié)等生成式人工智能應(yīng)用所需的基礎(chǔ)架構(gòu)、人工智能和云管理軟件。

我們還發(fā)布了新款面向企業(yè)的Nvidia AI服務(wù)器，采用專為行業(yè)標(biāo)準(zhǔn)數(shù)據(jù)中心服務(wù)器生態(tài)系統(tǒng)打造的新款Nvidia L40S GPU，以及Bluefield-3DPU數(shù)據(jù)中心基礎(chǔ)設(shè)施處理器。L40S不受COWOS供應(yīng)的限制，正在向全球領(lǐng)先的服務(wù)器系統(tǒng)制造商發(fā)貨。

L40S是一款通用數(shù)據(jù)中心處理器，專為大容量數(shù)據(jù)中心擴(kuò)展而設(shè)計(jì)，可加速最密集的計(jì)算應(yīng)用，包括人工智能培訓(xùn)、三維設(shè)計(jì)和可視化、視頻處理以及Nvidia Omniverse工業(yè)數(shù)字化。Nvidia AI企業(yè)就緒服務(wù)器針對(duì)VMware Cloud Foundation和私有AI Foundation進(jìn)行了全面優(yōu)化。戴爾、惠普和聯(lián)想等全球領(lǐng)先的企業(yè)IT計(jì)算公司即將推出近100種配置的面向企業(yè)的英偉達(dá)AI服務(wù)器。

英偉達(dá)GH200 Grace Hopper超級(jí)芯片將我們基于ARM的Grace GPU與Hoppe rGPU相結(jié)合，已進(jìn)入全面生產(chǎn)階段，并將于本季度在OEM服務(wù)器中推出。它還將向多家超級(jí)計(jì)算客戶發(fā)貨，包括國(guó)家實(shí)驗(yàn)室和瑞士國(guó)家計(jì)算中心。Nvidia和軟銀正在合作開(kāi)發(fā)一個(gè)基于GH200的平臺(tái)，用于生成式人工智能和5G、6G應(yīng)用。我們的第二代GraceHopper超級(jí)芯片將于2024年第二季度上市。

我們發(fā)布了用于巨型人工智能語(yǔ)言模型和數(shù)據(jù)分析的新型大內(nèi)存人工智能超級(jí)計(jì)算機(jī)DGX GH200。DGX GH200首次使用了全新的英偉達(dá)NVLink交換系統(tǒng)，使其所有256個(gè)GraceHopper超級(jí)芯片能夠作為一個(gè)整體協(xié)同工作，這與我們上一代僅通過(guò)NVLink連接8個(gè)GPU相比是一個(gè)巨大的飛躍。DGX GH200系統(tǒng)預(yù)計(jì)將于今年年底上市。GoogleCloud、Meta和微軟將是首批訪問(wèn)者。

網(wǎng)絡(luò)的強(qiáng)勁增長(zhǎng)主要由InfiniBand基礎(chǔ)設(shè)施驅(qū)動(dòng)。憑借端到端優(yōu)化和網(wǎng)內(nèi)計(jì)算能力，InfiniBand為人工智能提供的性能是傳統(tǒng)以太網(wǎng)的兩倍多。對(duì)于價(jià)值數(shù)十億美元的人工智能基礎(chǔ)設(shè)施而言，InfiniBand所帶來(lái)的吞吐量提升價(jià)值數(shù)億美元，并為網(wǎng)絡(luò)支付了費(fèi)用。此外，只有InfiniBand可以擴(kuò)展到數(shù)十萬(wàn)GPU。它是領(lǐng)先的人工智能從業(yè)者的首選網(wǎng)絡(luò)。

對(duì)于尋求優(yōu)化人工智能性能的基于以太網(wǎng)的云數(shù)據(jù)中心，我們發(fā)布了NvidiaSpectrum-X，這是一個(gè)加速網(wǎng)絡(luò)平臺(tái)，旨在為人工智能工作負(fù)載優(yōu)化以太網(wǎng)。Spectrum-X將Spectrumfor以太網(wǎng)交換機(jī)與Bluefield-3DPU結(jié)合在一起，實(shí)現(xiàn)了比傳統(tǒng)以太網(wǎng)高1.5倍的整體人工智能性能和能效。Bluefield-3DPU是一項(xiàng)重大成功。它已獲得主要原始設(shè)備制造商的資格認(rèn)證，并在多個(gè)CSB和消費(fèi)互聯(lián)網(wǎng)公司推廣。

游戲：游戲收入24.9億美元，環(huán)比增長(zhǎng)11%，同比增長(zhǎng)22%。

用于筆記本電腦和臺(tái)式機(jī)的GeForce RTX40系列圖形處理器推動(dòng)了這一增長(zhǎng)。客戶需求穩(wěn)健，與季節(jié)性保持一致。我們相信，在經(jīng)歷了去年的放緩之后，全球需求已恢復(fù)增長(zhǎng)。我們面臨著巨大的升級(jí)機(jī)會(huì)：我們的裝機(jī)量中僅有47%升級(jí)到了RTX，約20%的GPU具有RTX3060或更高的性能。在RTX4060GPU的帶動(dòng)下，筆記本電腦GPU在關(guān)鍵的返校季實(shí)現(xiàn)了強(qiáng)勁增長(zhǎng)。搭載NvidiaGPU的筆記本電腦越來(lái)越受歡迎，其出貨量現(xiàn)已超過(guò)全球多個(gè)地區(qū)的臺(tái)式機(jī)GPU。這可能會(huì)改變我們整體游戲收入的實(shí)際情況，第二季度和第三季度將成為本年度收入較高的季度，反映出筆記本電腦的返校和假期生產(chǎn)計(jì)劃。在臺(tái)式機(jī)方面，我們推出了GeForce RTX4060和GeForce RTX4060TiGPU，價(jià)格低至299美元。RTX和DLSS游戲生態(tài)系統(tǒng)繼續(xù)擴(kuò)大。DLSS支持新增35款游戲，其中包括熱門(mén)游戲?，F(xiàn)在有超過(guò)330款RTX加速游戲和應(yīng)用程序。

我們正在將生成式人工智能引入游戲。我們發(fā)布了面向游戲的Nvidia Avatar Cloud Engines，這是一種定制的人工智能模型代工服務(wù)。開(kāi)發(fā)人員可以使用該服務(wù)為非玩家角色賦予智能。它利用了多項(xiàng)Nvidia全方位和人工智能技術(shù)，包括Nemo、Riva和Audio2Face。

專業(yè)可視化：收入3.75億美元，環(huán)比增長(zhǎng)28%，同比下降24%。

這些系統(tǒng)將包括功能強(qiáng)大的RTX系統(tǒng)，最多可配備4個(gè)英偉達(dá)RTX6000GPU，提供超過(guò)5800瓦的人工智能性能和192千兆字節(jié)的GPU內(nèi)存。這些系統(tǒng)可配置英偉達(dá)?（NVIDIA?）AIEnterprise或英偉達(dá)?（NVIDIA?）OmniverseEnterprise。我們還發(fā)布了三款基于ADA一代的全新桌面工作站GPU--NvidiaRTX5000、4500和4000，與上一代產(chǎn)品相比，RT核心吞吐量提高了2倍，AI訓(xùn)練性能提高了2倍。

除了三維設(shè)計(jì)和內(nèi)容創(chuàng)建等傳統(tǒng)工作負(fù)載外，生成式人工智能、大型語(yǔ)言模型開(kāi)發(fā)和數(shù)據(jù)科學(xué)等新工作負(fù)載也為我們的RTX技術(shù)在專業(yè)可視化領(lǐng)域提供了更多機(jī)會(huì)。在本月早些時(shí)候舉行的SIGGRAPH大會(huì)上，黃曉明的主題演講的關(guān)鍵主題之一就是圖形和人工智能的轉(zhuǎn)換。這就是NvidiaOmniverse的定位。Omniverse是OpenUSD的原生平臺(tái)。OpenUSD是一種通用交換技術(shù)，正在迅速成為3D世界的標(biāo)準(zhǔn)。Adobe、apple、Autodesk、Pixar和Nvidia共同組成了OpenUSD聯(lián)盟。我們的使命是加速OpenUSD的開(kāi)發(fā)和采用。我們宣布了新的和即將推出的Omniverse云API，包括RunUSD和ChatUSD，以便為OpenUSD工作負(fù)載帶來(lái)生成式人工智能。

汽車(chē)業(yè)務(wù)：收入為2.53億美元，環(huán)比下降15%，同比增長(zhǎng)15%。

主要得益于與多家新能源汽車(chē)制造商合作推出的基于Drive Orin Soc的自動(dòng)駕駛平臺(tái)，同比增長(zhǎng)強(qiáng)勁。連續(xù)下降反映了整體汽車(chē)需求的下降，尤其是在中國(guó)。我們宣布與Media Tech合作，為司機(jī)和乘客帶來(lái)全新的車(chē)內(nèi)體驗(yàn)。Media Tech將開(kāi)發(fā)汽車(chē)Soc，并整合英偉達(dá)GPU芯片的新產(chǎn)品線。雙方的合作涵蓋了從豪華車(chē)到入門(mén)級(jí)車(chē)的廣泛領(lǐng)域。

至于其他部分，由于數(shù)據(jù)中心銷(xiāo)售額的增長(zhǎng)，GAAP毛利率擴(kuò)大到70.1%，非GAAP毛利率擴(kuò)大到71.2%。我們的數(shù)據(jù)中心產(chǎn)品包含大量的軟件和復(fù)雜性，這也有助于推動(dòng)我們的毛利率。GAAP運(yùn)營(yíng)費(fèi)用增長(zhǎng)6%，非GAAP運(yùn)營(yíng)費(fèi)用增長(zhǎng)5%，主要反映了薪酬和福利的增加。我們以股票回購(gòu)和現(xiàn)金分紅的形式向股東返還了約34億美元。我們的董事會(huì)剛剛批準(zhǔn)了250億美元的股票回購(gòu)計(jì)劃，到第二季度末，我們已授權(quán)回購(gòu)剩余的40億美元股票。

對(duì)2024財(cái)年第三季度的展望：

對(duì)我們的人工智能數(shù)據(jù)中心平臺(tái)的需求是巨大的，跨行業(yè)和客戶基礎(chǔ)廣泛。我們的需求可見(jiàn)性將延續(xù)到明年。在接下來(lái)的幾個(gè)季度里，我們的供應(yīng)將繼續(xù)增加，因?yàn)槲覀兛s短了周期時(shí)間，并與供應(yīng)伙伴合作增加產(chǎn)能。此外，新的L40s GPU將有助于滿足從云到企業(yè)的多種工作負(fù)載的不斷增長(zhǎng)的需求。

Q3總營(yíng)收預(yù)計(jì)為160億美元，上下浮動(dòng)2%。我們預(yù)計(jì)季度增長(zhǎng)主要由數(shù)據(jù)中心業(yè)務(wù)驅(qū)動(dòng)，包括游戲等也有貢獻(xiàn)。GAAP和非GAAP毛利率預(yù)計(jì)分別為71.5%和72.5%，上下浮動(dòng)50個(gè)基點(diǎn)。GAAP和非GAAP運(yùn)營(yíng)費(fèi)用預(yù)計(jì)分別約為29.5億美元和20億美元。GAAP和非GAAP其他收入和費(fèi)用預(yù)計(jì)將是一項(xiàng)大約發(fā)展收入，不包括非效應(yīng)投資的損益。預(yù)計(jì)GAAP和非GAAP稅率將增加14.5%±1%，不包括任何離散項(xiàng)目。

進(jìn)一步的財(cái)務(wù)細(xì)節(jié)包括首席財(cái)務(wù)官評(píng)論和我們IR網(wǎng)站上提供的其他信息。最后，讓我強(qiáng)調(diào)一下金融界即將發(fā)生的一些事件。我們將參加8月30日在芝加哥的Jefferies Tech Summit, 9月5日在舊金山的Goldman Sachs Tech Conference, 9月6日的Evercore Semiconductor Conference，以及9月7日在紐約的city Tech Conference和9月11日的虛擬AI會(huì)議B。

【提問(wèn)環(huán)節(jié)】

Q：過(guò)去，許多較小的模型推理工作負(fù)載都是在A6或Cpu上完成的；有了這些GPT和其他大型模型，就有了新的工作負(fù)載，在大型模型推理上加速得非?？?。是如何看待小模型推理和大模型推理之間的推理市場(chǎng)細(xì)分？產(chǎn)品組合是如何定位的?

A：讓我們快速回顧一下這些大型語(yǔ)言模型是相當(dāng)驚人的。LLM做了幾件事，當(dāng)然，它也有理解非結(jié)構(gòu)化語(yǔ)言的能力。但它學(xué)到的核心是人類語(yǔ)言的結(jié)構(gòu)。它已經(jīng)編碼或壓縮了大量的人類知識(shí)，這些知識(shí)是它通過(guò)研究的語(yǔ)料庫(kù)學(xué)到的。

現(xiàn)在情況是，你盡可能地創(chuàng)建大型語(yǔ)言模型，然后你從它推導(dǎo)出模型的小版本，這個(gè)過(guò)程叫做蒸餾。所以當(dāng)你看到這些較小的模型時(shí)，很可能它們是從更大的模型中衍生出來(lái)的，或者是從更大的模型中提煉出來(lái)的，或者是從更大的模型中學(xué)習(xí)來(lái)的，就像你有教授，老師和學(xué)生等等。

一方面，你從一個(gè)非常大的模型開(kāi)始有大量的一般性和泛化，對(duì)于很多你沒(méi)有專門(mén)訓(xùn)練它的應(yīng)用、問(wèn)題或技能，這些大型語(yǔ)言模型奇跡般地有能力執(zhí)行，這就是Zero-Shot。另一方面，您希望擁有這些功能和各種計(jì)算設(shè)備。所以你要做的就是把這些小模型提煉出來(lái)，這些較小的模型可能在某一特定技能上有出色的能力，但它們不能很好地概括，它們沒(méi)有所謂的良好的Zero-Shot能力。它們都有自己獨(dú)特的功能，但你要從非常大的模型開(kāi)始。

Q：明年將有多少增量供應(yīng)上線，鑒于之前說(shuō)每個(gè)季度都會(huì)增加？在未來(lái)一到兩年內(nèi)，這種需求的可持續(xù)性如何？

A：我們確實(shí)希望在接下來(lái)的幾個(gè)季度以及下一個(gè)財(cái)政年度繼續(xù)增加我供應(yīng)。但是現(xiàn)在不能用百分比量化表示。這是一項(xiàng)跨越許多不同供應(yīng)商的工作，但我們對(duì)供應(yīng)商給予支持以及我們與他們一起花了很長(zhǎng)時(shí)間來(lái)改善供應(yīng)感到非常高興。

全世界大約有價(jià)值1萬(wàn)億美元的數(shù)據(jù)中心安裝在云端、企業(yè)和其他地方。這一萬(wàn)億美元的數(shù)據(jù)中心正在向加速計(jì)算和生成人工智能過(guò)渡。我們同時(shí)看到兩個(gè)平臺(tái)的轉(zhuǎn)變。

一個(gè)是加速計(jì)算，因?yàn)樗悄壳白罹叱杀拘б?、最?jié)能、最高效的計(jì)算方式。二是突然之間，生成式人工智能出現(xiàn)了，這個(gè)不可思議的應(yīng)用程序現(xiàn)在給了每個(gè)人轉(zhuǎn)變的理由，從通用計(jì)算、傳統(tǒng)的計(jì)算方式到這種新的計(jì)算方式——加速計(jì)算，做一個(gè)平臺(tái)的轉(zhuǎn)變。數(shù)據(jù)中心每年大約有2500億美元的資本支出，本季度QSP收入占比50%，接下來(lái)是Consumer Internet Companies / Enterprise / HPC。世界各地的數(shù)據(jù)中心正在利用這些資本支出，并將其集中在當(dāng)今計(jì)算的最重要的趨勢(shì)上，即生成式人工智能中的加速計(jì)算。所以我認(rèn)為這不是一個(gè)短期的事情。這是一個(gè)長(zhǎng)期的行業(yè)轉(zhuǎn)型。

Q：季度性的數(shù)據(jù)中心數(shù)據(jù)，包括系統(tǒng)和GPU的對(duì)比，例如DGX與H100？想了解定價(jià)等與未來(lái)增長(zhǎng)推動(dòng)的關(guān)系。

A：在本季度，我們的HGX系統(tǒng)是數(shù)據(jù)中心的重要組成部分，實(shí)現(xiàn)了數(shù)據(jù)中心的增長(zhǎng)，包括Hooper和Ampere架構(gòu)。

DGX始終是我們將出售的附加系統(tǒng)的重要部分，這對(duì)企業(yè)客戶和許多其他不同類型的客戶來(lái)說(shuō)都是巨大的機(jī)會(huì)，我們甚至在消費(fèi)者互聯(lián)網(wǎng)公司中也看到了這一點(diǎn)。現(xiàn)在，我們與DGX一起銷(xiāo)售的軟件也很重要，但這是我們銷(xiāo)售的一部分。

其余的GPU，我們有新的GPU進(jìn)入市場(chǎng)，我們談?wù)摰腖40s，他們將繼續(xù)增長(zhǎng)向前。但是，我們上個(gè)季度營(yíng)收的最大驅(qū)動(dòng)力絕對(duì)是HGX系統(tǒng)。

提到H100，H100有35000個(gè)零件，價(jià)值70英鎊，將近1萬(wàn)億個(gè)晶體管的組合，它們的制造是非常密集的。所以我認(rèn)為我們稱之為H100，就好像它是一個(gè)從晶圓廠出來(lái)的芯片，但H100實(shí)際上是DGX和合成世界的超尺度粒子。它們是非常大的系統(tǒng)組件。

Q：軟件生態(tài)系統(tǒng)的發(fā)展以及關(guān)鍵因素？量化一下公司的領(lǐng)先優(yōu)勢(shì)和投入？

A：Nvidia AI Enterprise的運(yùn)行時(shí)，這是幾乎每個(gè)公司都使用的端到端的機(jī)器學(xué)習(xí)，從數(shù)據(jù)處理、任何模型的訓(xùn)練，你可以在任何框架上做推理和部署，并將其擴(kuò)展到數(shù)據(jù)中心，可以是超大規(guī)模數(shù)據(jù)中心的擴(kuò)展，可以是企業(yè)數(shù)據(jù)中心的擴(kuò)展。我們?cè)诂F(xiàn)場(chǎng)有數(shù)億個(gè)gpu，在云中也有數(shù)百萬(wàn)個(gè)gpu，幾乎在每一個(gè)云上。它可以在單個(gè)GPU配置中運(yùn)行，也可以在每個(gè)計(jì)算或多個(gè)節(jié)點(diǎn)上運(yùn)行多個(gè)GPU。它也有多個(gè)應(yīng)用程序、多個(gè)會(huì)話或每個(gè)GPU多個(gè)計(jì)算實(shí)例。從每個(gè)GPU多個(gè)實(shí)例到多個(gè)GPU，從多個(gè)節(jié)點(diǎn)到整個(gè)數(shù)據(jù)中心規(guī)模。Nvidia AI Enterprise有大約4500個(gè)軟件包和軟件庫(kù)，彼此之間有大約10000個(gè)依賴項(xiàng)。我們不斷更新和優(yōu)化我們的安裝基礎(chǔ)，我們的堆棧，這只是讓加速計(jì)算發(fā)揮作用的一個(gè)例子。

代碼組合的數(shù)量和應(yīng)用程序組合的類型確實(shí)非常瘋狂。我們花了二十年才走到這一步。但我想描述的可能是我們公司的元素：

最重要的是架構(gòu)。我們架構(gòu)的靈活性、多功能性和性能使我們能夠做我剛才說(shuō)的所有事情，從數(shù)據(jù)處理到訓(xùn)練再到推理，從數(shù)據(jù)的預(yù)處理到數(shù)據(jù)的后處理、語(yǔ)言的標(biāo)記化，這樣你就可以用它來(lái)訓(xùn)練。工作流程的工作量比僅僅訓(xùn)練或推理要大得多。但無(wú)論如何，這是人們關(guān)注的地方，這很好。但是，當(dāng)人們真正使用這些計(jì)算系統(tǒng)時(shí)，它需要很多應(yīng)用程序。因此，我們的架構(gòu)組合使我們能夠交付最低的擁有成本，原因是我們加速了很多不同的東西。

第二個(gè)是安裝基礎(chǔ)。為什么所有的軟件開(kāi)發(fā)人員都來(lái)到我們的平臺(tái)？這樣做的原因是因?yàn)?，軟件開(kāi)發(fā)人員尋求一個(gè)大的安裝基礎(chǔ)，這樣他們就可以接觸到最大數(shù)量的最終用戶，這樣他們就可以建立業(yè)務(wù)或從他們的投資中獲得回報(bào)。

第三個(gè)特點(diǎn)是可及性。我們今天在云上，既為了公共云，面向公共云，因?yàn)槲覀冇泻芏嗫蛻?，他們使用很多開(kāi)發(fā)人員，也有很多客戶使用我們的平臺(tái)，云計(jì)算服務(wù)提供商很高興把它放在云上，供用戶內(nèi)部消費(fèi)、開(kāi)發(fā)、培訓(xùn)和操作推薦系統(tǒng)、搜索或數(shù)據(jù)處理引擎等等，一直到訓(xùn)練和推理，所以我們?cè)谠粕稀?/p>

影響力是另一個(gè)原因。昨天我們宣布了一個(gè)重大消息。Vmware是全球企業(yè)的操作系統(tǒng)，我們已經(jīng)合作了好幾年，我們將一起努力，將為全球企業(yè)帶來(lái)生成式人工智能，一直到邊緣。由于覆蓋范圍廣，世界上所有的系統(tǒng)制造商都急于在他們的系統(tǒng)中加入英偉達(dá)平臺(tái)。因此，我們有一個(gè)非常廣泛的分布，從世界上所有的oem和odm等等。

最后，由于我們的規(guī)模和速度，我們能夠在所有這些不同的使用模式和不同的計(jì)算環(huán)境中維持這個(gè)真正復(fù)雜的軟件和硬件，網(wǎng)絡(luò)和計(jì)算堆棧。我們可以在加快工程速度的同時(shí)做到這一切。我們現(xiàn)在每?jī)赡昃蜁?huì)推出一個(gè)新的架構(gòu)。我們每六個(gè)月就會(huì)推出一個(gè)新的產(chǎn)品。因此，這些屬性使得生態(tài)系統(tǒng)能夠在我們之上建立他們的公司和業(yè)務(wù)。這些結(jié)合在一起使我們與眾不同。

Q：不需要COWOS的L40S對(duì)解決供應(yīng)緊張有多大幫助？能否談?wù)勗摦a(chǎn)品的增利或毛利貢獻(xiàn)？

A：L40S其實(shí)是為不同類型的應(yīng)用而設(shè)計(jì)的。H100是為大規(guī)模語(yǔ)言模型和處理而設(shè)計(jì)的，而這不是L40S的重點(diǎn)。L40S的重點(diǎn)是對(duì)預(yù)訓(xùn)練模型進(jìn)行微調(diào)。它有一個(gè)Transformer引擎，性能強(qiáng)大，可以在一臺(tái)服務(wù)器中使用多個(gè)GPU。它專為超大規(guī)模擴(kuò)展而設(shè)計(jì)，這意味著可以輕松地將L40S服務(wù)器安裝到全球的超大規(guī)模數(shù)據(jù)中心。它采用標(biāo)準(zhǔn)機(jī)架、標(biāo)準(zhǔn)服務(wù)器，一切都符合標(biāo)準(zhǔn)。因此，它很容易安裝。L40S是為全球企業(yè)IT系統(tǒng)設(shè)計(jì)的，這也是惠普、戴爾、聯(lián)想和其他20家系統(tǒng)制造商與我們合作的原因，他們構(gòu)建了約100種不同配置的企業(yè)服務(wù)器，將生成式人工智能帶入全球企業(yè)。

總之，L40S確實(shí)是為不同類型的擴(kuò)展而設(shè)計(jì)的。當(dāng)然依舊是大模型，也是生成式人工智能，但它的用例不同。現(xiàn)在L40S有了一個(gè)良好的開(kāi)端，全球企業(yè)和超大規(guī)模企業(yè)都在爭(zhēng)相部署L40S。

Q：當(dāng)下還有多少未滿足的需求？

A：我們對(duì)今年和明年的情況非常了解。我們已經(jīng)在與領(lǐng)先的CSP和數(shù)據(jù)中心建設(shè)者一起規(guī)劃下一代基礎(chǔ)設(shè)施。

對(duì)需求最簡(jiǎn)單的理解是，世界正在從通用計(jì)算向加速計(jì)算過(guò)渡。對(duì)于企業(yè)來(lái)說(shuō)，提高吞吐量、提高能效、提高成本效益的最佳途徑就是將資本預(yù)算轉(zhuǎn)向加速計(jì)算和生成式人工智能。因?yàn)檫@樣做，你就能從CPU上卸載大量工作負(fù)載，從而提高數(shù)據(jù)中心可用CPU的數(shù)量。你現(xiàn)在看到的公司正在認(rèn)識(shí)到這一轉(zhuǎn)變的開(kāi)始，并將其資本投資轉(zhuǎn)向加速計(jì)算和生成式人工智能。

這不是一個(gè)單一的應(yīng)用在驅(qū)動(dòng)需求，而是一個(gè)新的計(jì)算平臺(tái)，一個(gè)正在發(fā)生的新的計(jì)算轉(zhuǎn)型。世界各地的數(shù)據(jù)中心都在對(duì)此做出響應(yīng)，并以廣泛的方式進(jìn)行轉(zhuǎn)變。

Q：上一季度，CSP約占數(shù)據(jù)中心收入的40%，消費(fèi)者互聯(lián)網(wǎng)約占30%，企業(yè)約占30%。這個(gè)季度CSP和消費(fèi)者互聯(lián)網(wǎng)在你們的業(yè)務(wù)中可能占更大的比例嗎？

A：把計(jì)算和網(wǎng)絡(luò)結(jié)合在一起來(lái)看的話，我們的大型CSP對(duì)第二季度收入的貢獻(xiàn)略高于50%，其次是消費(fèi)互聯(lián)網(wǎng)公司，最后是企業(yè)和高性能計(jì)算公司。

Q：給黃仁勛的Q-鑒于您是人工智能的主要推動(dòng)者，我很好奇，您是否有信心為客戶提供足夠多的應(yīng)用或用例，以獲得合理的投資回報(bào)。換句話說(shuō)，是否有足夠的廣度和深度來(lái)支持你們數(shù)據(jù)中心業(yè)務(wù)的持續(xù)增長(zhǎng)？

A：我不愿意猜測(cè)未來(lái)，我將首先從計(jì)算機(jī)科學(xué)原理的角度來(lái)回A這個(gè)Q題。一段時(shí)間以來(lái)，人們已經(jīng)認(rèn)識(shí)到，強(qiáng)制通用計(jì)算或大規(guī)模使用通用計(jì)算不再是前進(jìn)的最佳途徑。它的能耗太高，成本太高，應(yīng)用性能也太慢。終于，世界上有了一種新的方法。這就是所謂的加速計(jì)算，而生成式人工智能為其注入了最后的動(dòng)力。加速計(jì)算可用于數(shù)據(jù)中心已有的各種不同應(yīng)用。通過(guò)使用它，你可以卸載CPU，節(jié)省大量資金，提高吞吐量。這才是行業(yè)未來(lái)真正的發(fā)展趨勢(shì)。

投資數(shù)據(jù)中心的最佳方式是將資本投資從通用計(jì)算轉(zhuǎn)向生成式人工智能和加速計(jì)算。生成式人工智能提供了一種提高生產(chǎn)力的新方法，一種為客戶提供新服務(wù)的新方法，而加速計(jì)算則可以幫助您省錢(qián)省電?，F(xiàn)在的應(yīng)用數(shù)量成噸——大量的開(kāi)發(fā)人員、大量的應(yīng)用、大量的庫(kù)。世界各地的數(shù)據(jù)中心都認(rèn)識(shí)到，這是部署資源和部署資本的最佳方式。

這對(duì)全球的云計(jì)算來(lái)說(shuō)都是如此。你會(huì)看到一大批新的GPU專業(yè)云服務(wù)提供商。CoreWeave就是其中一家，他們做得非常好。但你現(xiàn)在看到的是全球各地的地區(qū)性GPU專家，因?yàn)樗麄兌颊J(rèn)識(shí)到了同一件事，那就是將資金投入加速計(jì)算和生成式人工智能才是未來(lái)投資的最佳方式。

但我們也看到，企業(yè)也想這樣做。但為了讓企業(yè)做到這一點(diǎn)，你必須支持企業(yè)的管理系統(tǒng)、操作系統(tǒng)、安全、軟件、定義的數(shù)據(jù)中心方法，這就是VMware的作用。我們與Vmware合作了數(shù)年，使Vmware不僅能支持CPU的虛擬化，還能支持GPU的虛擬化、GPU的分布式計(jì)算能力、高性能網(wǎng)絡(luò)的視頻藍(lán)場(chǎng)。我們一直在開(kāi)發(fā)的所有生成式人工智能庫(kù)現(xiàn)在都將作為一項(xiàng)特殊技能由VMware的Salesforce提供。這項(xiàng)新技能將被命名為VmwarePrivateAIFoundation。結(jié)合惠普、戴爾和聯(lián)想基于L40S的新服務(wù)器產(chǎn)品，任何企業(yè)都可以擁有一個(gè)先進(jìn)的人工智能數(shù)據(jù)中心，并能夠使用生成式人工智能。

因此，我認(rèn)為這個(gè)問(wèn)題的答案是，很難準(zhǔn)確預(yù)測(cè)每個(gè)季度會(huì)發(fā)生什么，但我認(rèn)為現(xiàn)在的趨勢(shì)非常明顯，我們正在看到平臺(tái)的轉(zhuǎn)變。

Q：能否談?wù)劸W(wǎng)絡(luò)解決方案與交付的計(jì)算的相關(guān)率？是否有一半的計(jì)算采用了網(wǎng)絡(luò)解決方案？你們是否可以利用這一點(diǎn)來(lái)確定GPU分配的優(yōu)先次序？

A：我們不會(huì)用它來(lái)優(yōu)先分配GPU。我們讓客戶自己決定使用什么網(wǎng)絡(luò)。對(duì)于那些正在建設(shè)大型基礎(chǔ)設(shè)施的客戶來(lái)說(shuō)，Infiniband是不二之選，因?yàn)镮nfiniband的效率非常高。其吞吐量可提高10-20%，這對(duì)于價(jià)值10億美元的基礎(chǔ)設(shè)施而言可以節(jié)省大量成本。基本上，聯(lián)網(wǎng)是免費(fèi)的。因此，如果您有一個(gè)主要用于大型語(yǔ)言模型或大型人工智能系統(tǒng)的單一應(yīng)用程序，InfiniBand確實(shí)是一個(gè)不錯(cuò)的選擇。

但是，如果你要為很多不同的用戶提供主機(jī)服務(wù)，而以太網(wǎng)又是你管理數(shù)據(jù)中心的核心，那么我們最近剛剛發(fā)布了一個(gè)出色的解決方案，叫做Spectrum-X。我們將把InfiniBand的一些功能帶到以太網(wǎng)中，這樣，我們還能讓你在以太網(wǎng)環(huán)境中獲得出色的人工智能生成功能。

Q：關(guān)于DGX云，能否談?wù)勀吹降目蛻舻慕邮涨闆r以及勢(shì)頭如何？

A：DGX云戰(zhàn)略能帶來(lái)幾個(gè)好處：

1.我們與全球3萬(wàn)家公司合作，其中1.5萬(wàn)家是初創(chuàng)公司，數(shù)千家是生成式人工智能公司。其中，增長(zhǎng)最快的當(dāng)然是生成式人工智能。我們正在與全球所有的人工智能初創(chuàng)公司合作。最終，他們都希望能夠登陸世界領(lǐng)先的云計(jì)算平臺(tái)。因此，我們建立了DGXCloud，作為世界領(lǐng)先云的一個(gè)足跡，這樣我們就可以同時(shí)與所有人工智能合作伙伴合作，幫助他們輕松登陸我們的云合作伙伴之一。

2.實(shí)現(xiàn)我們與全球CSP之間真正緊密的合作關(guān)系，提高超大規(guī)模云的性能。超大規(guī)模云在歷史上是為多租戶設(shè)計(jì)的，現(xiàn)在則是為高性能分布式計(jì)算（如生成式人工智能）設(shè)計(jì)的?，F(xiàn)在我們和CSPs能夠在架構(gòu)上密切合作、工程師攜手合作提高網(wǎng)絡(luò)性能和計(jì)算性能-這真的非常強(qiáng)大，非常了不起。

3.Nvidia自己也使用非常龐大的基礎(chǔ)設(shè)施。我們的自動(dòng)駕駛汽車(chē)團(tuán)隊(duì)、生成式人工智能團(tuán)隊(duì)、大模型團(tuán)隊(duì)都需要大量的基礎(chǔ)設(shè)施。如果沒(méi)有我們的DGX系統(tǒng)，我們的優(yōu)化編譯器就不可能實(shí)現(xiàn)，因?yàn)槿缃窦词故蔷幾g器也需要人工智能，而優(yōu)化軟件和基礎(chǔ)架構(gòu)軟件的開(kāi)發(fā)也需要人工智能。眾所周知，我們的工程設(shè)計(jì)使用人工智能來(lái)設(shè)計(jì)芯片。我們的機(jī)器人團(tuán)隊(duì)、全宇宙團(tuán)隊(duì)等等，都需要人工智能。

因此，我們的內(nèi)部消耗也相當(dāng)大，我們將其部署在DGX云中。因此，DGF云有多種用例、多種驅(qū)動(dòng)力，而且取得了巨大成功。我們的CSP喜歡它，開(kāi)發(fā)人員喜歡它，我們自己的內(nèi)部工程師也爭(zhēng)相使用它。

現(xiàn)在，我們看到軟件業(yè)務(wù)每年可能有數(shù)億美元的收入，我們正在考慮將Nvidia AI Enterprise納入我們銷(xiāo)售的許多產(chǎn)品中，例如DGX，例如H100的TCIE版本。我認(rèn)為，即使有了CSP市場(chǎng)，我們也會(huì)看到更多的可用性。因此，我們有了一個(gè)良好的開(kāi)端，我相信你們會(huì)看到這一勢(shì)頭繼續(xù)向前發(fā)展。

【總結(jié)】

一個(gè)新的計(jì)算機(jī)時(shí)代已經(jīng)開(kāi)始，該行業(yè)正在同時(shí)經(jīng)歷加速計(jì)算和生成式人工智能兩大平臺(tái)轉(zhuǎn)型。數(shù)據(jù)中心正在從通用計(jì)算平臺(tái)轉(zhuǎn)向加速計(jì)算平臺(tái)，價(jià)值數(shù)萬(wàn)億美元的全球數(shù)據(jù)中心將轉(zhuǎn)向加速計(jì)算，以實(shí)現(xiàn)性能、能源效率和成本的數(shù)量級(jí)提升。加速計(jì)算使生成式人工智能成為可能，它現(xiàn)在正在推動(dòng)軟件平臺(tái)的轉(zhuǎn)變，并實(shí)現(xiàn)前所未有的新應(yīng)用。加速計(jì)算和生成式人工智能共同推動(dòng)了廣泛的計(jì)算機(jī)行業(yè)平臺(tái)轉(zhuǎn)變。

我們的需求巨大，我們正在大力擴(kuò)大產(chǎn)品生產(chǎn)能力。今年剩余時(shí)間和明年的供應(yīng)量將大幅增加。

Nvidia的特別之處在于：

1、架構(gòu)。Nvidia加速了每個(gè)人工智能模型從數(shù)據(jù)處理、訓(xùn)練、推理、實(shí)時(shí)語(yǔ)音到計(jì)算機(jī)視覺(jué)、巨型推薦到向量數(shù)據(jù)庫(kù)的一切。我們架構(gòu)的性能和多功能性，轉(zhuǎn)化為最低的數(shù)據(jù)中心擁有成本和最佳的能源效率安裝基礎(chǔ)。

2、安裝基礎(chǔ)。英偉達(dá)在全球擁有數(shù)億塊與Kuda兼容的GPU。開(kāi)發(fā)者需要龐大的安裝基礎(chǔ)才能接觸到終端用戶并發(fā)展業(yè)務(wù)。英偉達(dá)是開(kāi)發(fā)者的首選平臺(tái)。更多的開(kāi)發(fā)人員創(chuàng)建更多的應(yīng)用程序，使英偉達(dá)對(duì)客戶更有價(jià)值。

3、可及性。英偉達(dá)的云、企業(yè)數(shù)據(jù)中心、工業(yè)邊緣pc、工作站、儀器和機(jī)器人，每一個(gè)都有獨(dú)特的計(jì)算模型和生態(tài)系統(tǒng)。像OEM、ODM這樣的系統(tǒng)供應(yīng)商可以自信地投資英偉達(dá)，因?yàn)槲覀兲峁┝司薮蟮氖袌?chǎng)需求和覆蓋范圍、規(guī)模和速度。英偉達(dá)已經(jīng)實(shí)現(xiàn)了巨大的規(guī)模，并100%投資于加速計(jì)算和生成式人工智能。我們的生態(tài)系統(tǒng)合作伙伴可以相信，我們擁有專業(yè)知識(shí)、專注力和規(guī)模，可以提供強(qiáng)有力的路線圖，幫助他們成長(zhǎng)。

我們大約每六個(gè)月升級(jí)和添加新產(chǎn)品，而不是每?jī)赡晟?jí)和添加新產(chǎn)品，以應(yīng)對(duì)不斷擴(kuò)大的生成式人工智能領(lǐng)域。

我們?cè)黾親100用于訓(xùn)練和推斷大型語(yǔ)言模型的輸出時(shí)，客戶已經(jīng)在使用我們的Grace Hopper開(kāi)發(fā)下一代加速計(jì)算和生成人工智能。我們正在將Nvidia人工智能擴(kuò)展到世界上需要生成人工智能的企業(yè)，但要以隱私、安全和主權(quán)為模型。我們也與與世界領(lǐng)先的企業(yè)IT公司一起，為全球企業(yè)帶來(lái)生成式人工智能。另外構(gòu)建Nvidia Omniverse，以實(shí)現(xiàn)全球數(shù)萬(wàn)億美元的重工業(yè)的數(shù)字化，并使其能夠使用生成式人工智能來(lái)自動(dòng)化其構(gòu)建和運(yùn)營(yíng)物理資產(chǎn)的方式，并實(shí)現(xiàn)更高的生產(chǎn)力。

生成式人工智能，公司可以實(shí)現(xiàn)數(shù)萬(wàn)億美元的生產(chǎn)力提升。對(duì)于英偉達(dá)、我們的客戶、合作伙伴和整個(gè)生態(tài)系統(tǒng)來(lái)說(shuō)，這是一個(gè)激動(dòng)人心的時(shí)刻，我們將推動(dòng)計(jì)算領(lǐng)域的這一世代轉(zhuǎn)變，我們期待著下個(gè)季度向您通報(bào)我們的進(jìn)展情況。