英偉達(dá)(NVDA.US)24財(cái)年Q4業(yè)績(jī)會(huì)：數(shù)據(jù)中心收入同比猛增4倍創(chuàng)歷史新高 世界已到達(dá)新計(jì)算時(shí)代的轉(zhuǎn)折點(diǎn)

智通財(cái)經(jīng)APP獲悉，2月22日，英偉達(dá)(NVDA.US)召開(kāi)24財(cái)年Q4業(yè)績(jī)會(huì)。英偉達(dá)介紹，第四季度收入達(dá)到創(chuàng)紀(jì)錄的 221 億美元，環(huán)比增長(zhǎng) 22%，同比增長(zhǎng) 265%，遠(yuǎn)高于 200 億美元的預(yù)期。2024 財(cái)年，收入達(dá)到 609 億美元，比上一年增長(zhǎng) 126%。數(shù)據(jù)中心，2024 財(cái)年收入為 475 億美元，是上一年的三倍多。

英偉達(dá)指出，世界已經(jīng)到達(dá)新計(jì)算時(shí)代的轉(zhuǎn)折點(diǎn)。價(jià)值數(shù)萬(wàn)億美元的數(shù)據(jù)中心基礎(chǔ)設(shè)施安裝基礎(chǔ)正在迅速?gòu)耐ㄓ糜?jì)算過(guò)渡到加速計(jì)算。隨著摩爾定律的放緩和計(jì)算需求的猛增，公司正在加速所有可能的工作負(fù)載，以推動(dòng)未來(lái)性能、成本和能源效率的改進(jìn)。與此同時(shí)，企業(yè)開(kāi)始建設(shè)下一代現(xiàn)代數(shù)據(jù)中心，即人工智能工廠(chǎng)，專(zhuān)門(mén)用于在生成人工智能時(shí)代提煉原始數(shù)據(jù)并產(chǎn)生價(jià)值。

英偉達(dá)表示，第四季度，在 Nvidia Hopper GPU 計(jì)算平臺(tái)和 InfiniBand 端到端網(wǎng)絡(luò)的推動(dòng)下，數(shù)據(jù)中心收入達(dá)到184 億美元，創(chuàng)下歷史新高，環(huán)比增長(zhǎng) 27%，同比增長(zhǎng) 409%。計(jì)算收入增長(zhǎng)了 5 倍以上，網(wǎng)絡(luò)收入增長(zhǎng)了兩倍。

第四季度數(shù)據(jù)中心的增長(zhǎng)是由跨越不同行業(yè)、用例和地區(qū)的生成式AI和大型語(yǔ)言模型的訓(xùn)練和推理推動(dòng)的。公司的數(shù)據(jù)中心平臺(tái)的多功能性和領(lǐng)先性能可為許多用例帶來(lái)高投資回報(bào)，包括AI訓(xùn)練和推理、數(shù)據(jù)處理和廣泛的CUDA加速工作負(fù)載。公司估計(jì)，去年數(shù)據(jù)中心大約 40% 的收入來(lái)自AI推理。

構(gòu)建和部署AI解決方案幾乎已涉及每個(gè)行業(yè)。各行各業(yè)的許多公司都在大規(guī)模培訓(xùn)和運(yùn)營(yíng)其AI模型和服務(wù)。企業(yè)通過(guò)云提供商使用 Nvidia AI 基礎(chǔ)設(shè)施，包括超大規(guī)模、GPU 專(zhuān)用云、私有云或本地云。Nvidia 的計(jì)算堆?？煽缭坪捅镜丨h(huán)境無(wú)縫擴(kuò)展，允許客戶(hù)采用多云或混合云策略進(jìn)行部署。在第四季度，大型云提供商占數(shù)據(jù)中心收入的一半以上，支持內(nèi)部工作負(fù)載和外部公共云客戶(hù)。

Q&A

問(wèn)：在數(shù)據(jù)中心業(yè)務(wù)方面，過(guò)去 一個(gè)季度對(duì)2024-2025年的預(yù)期有何變化？

答：我們每次指導(dǎo)一個(gè)季度，但從根本上講，24、25 日歷及以后的持續(xù)增長(zhǎng)條件非常好。

我們正處于兩個(gè)全行業(yè)轉(zhuǎn)型的開(kāi)始階段。首先是從通用計(jì)算向加速計(jì)算的轉(zhuǎn)變。通用計(jì)算開(kāi)始失去動(dòng)力，通信服務(wù)提供商和許多數(shù)據(jù)中心（包括我們自己的數(shù)據(jù)中心）證明了這一點(diǎn)，折舊時(shí)間從四年延長(zhǎng)到六年。當(dāng)您無(wú)法像以前那樣從根本上顯著提高其吞吐量時(shí)，就沒(méi)有理由更新更多的 CPU。所以，你必須加速一切。這是 Nvidia 一段時(shí)間以來(lái)一直在開(kāi)拓的領(lǐng)域。通過(guò)加速計(jì)算，您可以顯著提高能源效率，并將數(shù)據(jù)處理成本降低 20 比 1，這是一個(gè)巨大的數(shù)字。當(dāng)然還有速度上的提升。

這種速度促成了第二次全行業(yè)轉(zhuǎn)型，即生成式人工智能。生成式人工智能是一種新的應(yīng)用程序，它支持一種新的軟件開(kāi)發(fā)方式，創(chuàng)建新型軟件。這是一種新的計(jì)算方式。你無(wú)法在傳統(tǒng)的通用計(jì)算上進(jìn)行生成式人工智能；必須加速。它正在催生一個(gè)全新的行業(yè)，值得退后一步審視。它與你關(guān)于主權(quán)人工智能的最后一個(gè)問(wèn)題有關(guān)。

數(shù)據(jù)中心第一次不僅僅是計(jì)算數(shù)據(jù)、存儲(chǔ)數(shù)據(jù)和為公司員工提供服務(wù)。我們現(xiàn)在有一個(gè)關(guān)于人工智能生成的新型數(shù)據(jù)中心，一個(gè)人工智能生成工廠(chǎng)。它采用原材料（即數(shù)據(jù)），用 Nvidia 構(gòu)建的人工智能超級(jí)計(jì)算機(jī)對(duì)其進(jìn)行轉(zhuǎn)換，并將其轉(zhuǎn)化為極其有價(jià)值的代幣。這些令牌是人們?cè)? ChatGPT、中間旅程或增強(qiáng)搜索中體驗(yàn)到的?，F(xiàn)在，您所有的推薦系統(tǒng)都得到了增強(qiáng)，伴隨著超個(gè)性化，所有這些數(shù)字生物學(xué)領(lǐng)域令人難以置信的初創(chuàng)公司都產(chǎn)生了蛋白質(zhì)和化學(xué)物質(zhì)，這樣的例子不勝枚舉。這些代幣是在一種非常專(zhuān)業(yè)的數(shù)據(jù)中心中生成的，我們稱(chēng)之為人工智能超級(jí)計(jì)算機(jī)和人工智能生成工廠(chǎng)。

我們看到這在新市場(chǎng)中的體現(xiàn)方式存在多樣性。

我們所做的推理量是驚人的。幾乎每次您與 ChatGPT 交互時(shí)，我們都在進(jìn)行推理。每次您使用旅程時(shí)，我們都會(huì)進(jìn)行推斷。每次你看到令人驚嘆的視頻被生成或編輯時(shí)，Nvidia 都在進(jìn)行推理。

我們業(yè)務(wù)的推理部分增長(zhǎng)了約 40%。由于這些模型變得越來(lái)越大，訓(xùn)練量仍在繼續(xù)。我們還向新行業(yè)進(jìn)行多元化發(fā)展。從資本支出和討論中可以看出，大型通信服務(wù)提供商仍在建設(shè)中。但有一個(gè)新類(lèi)別稱(chēng)為 GPU 專(zhuān)用 CSP。他們專(zhuān)注于 Nvidia 人工智能基礎(chǔ)設(shè)施。您會(huì)看到部署 AI 的企業(yè)軟件平臺(tái)，例如 ServiceNow、Adobe、SAP 等。消費(fèi)者互聯(lián)網(wǎng)服務(wù)現(xiàn)在正在通過(guò)生成人工智能來(lái)增強(qiáng)其所有服務(wù)，以提供更加超個(gè)性化的內(nèi)容。

我們談?wù)摰氖枪I(yè)生成人工智能。我們的行業(yè)現(xiàn)在代表著價(jià)值數(shù)十億美元的業(yè)務(wù)，包括汽車(chē)、健康、金融服務(wù)。

主權(quán)人工智能與每個(gè)地區(qū)的語(yǔ)言、知識(shí)、歷史和文化不同，并且擁有自己的數(shù)據(jù)這一事實(shí)有關(guān)。他們希望利用自己的數(shù)據(jù)創(chuàng)建自己的數(shù)字智能，并提供它來(lái)自己利用原材料。我們看到日本、加拿大、法國(guó)和許多其他地區(qū)正在建設(shè)主權(quán)人工智能基礎(chǔ)設(shè)施。我的期望是，美國(guó)和西方正在經(jīng)歷的事情肯定會(huì)在世界各地復(fù)制。這些人工智能生成工廠(chǎng)將遍布每個(gè)行業(yè)、每個(gè)公司、每個(gè)地區(qū)。

去年，我們看到生成式人工智能成為一個(gè)全新的應(yīng)用空間、一種新的計(jì)算方式、形成新的行業(yè)，這正在推動(dòng)我們的增長(zhǎng)。

問(wèn)：我們?nèi)绾斡?jì)算出“40% 的數(shù)據(jù)中心收入來(lái)自于A(yíng)I推理”？歷史數(shù)字在什么水平？

答：這個(gè)比例可能被低估了?；ヂ?lián)網(wǎng)有數(shù)萬(wàn)億個(gè)項(xiàng)目 ，而你的手機(jī)屏幕空間有限。將所有信息壓縮到如此小的區(qū)域的能力是通過(guò)推薦系統(tǒng)實(shí)現(xiàn)的。這些推薦系統(tǒng)傳統(tǒng)上基于 CPU 方法。然而，最近向深度學(xué)習(xí)和生成式人工智能的轉(zhuǎn)變，使這些系統(tǒng)完全走上了 GPU 加速的道路。因此，GPU 現(xiàn)在參與了推薦系統(tǒng)的每一步——嵌入、最近鄰搜索、重新排序和生成增強(qiáng)信息都需要 GPU 加速。推薦系統(tǒng)是地球上最大的軟件引擎，對(duì)于全球幾乎所有大公司來(lái)說(shuō)都是必不可少的。

每當(dāng)你使用 ChatGPT、使用MidJourney生成圖片時(shí)，都會(huì)用到推理。與 Getty 的合作、Adobe 的 Firefly也都基于生成式的模型。這些例子以及其他例子都是 100% 新的，一年前還不存在。

問(wèn)：如何理解“下一代產(chǎn)品將受到供應(yīng)限制”？

答：首先，總體而言，我們的供應(yīng)正在改善。我們的供應(yīng)鏈為我們做了令人難以置信的工作，從晶圓、封裝和存儲(chǔ)器到所有電源調(diào)節(jié)器、收發(fā)器、網(wǎng)絡(luò)和電纜，我們的出貨范圍很廣。人們通常認(rèn)為 Nvidia GPU 只是一塊芯片，但 Nvidia Hopper GPU 有 35,000 個(gè)零件，重 70 磅。數(shù)據(jù)中心后面的布線(xiàn)系統(tǒng)是 世界上迄今為止最密集、最復(fù)雜的網(wǎng)絡(luò)系統(tǒng)。

我們的 InfiniBand 業(yè)務(wù)同比增長(zhǎng)了五倍。供應(yīng)鏈為我們提供了極大的支持，總體而言，供應(yīng)正在改善。我們預(yù)計(jì)全年需求將繼續(xù)超過(guò)供應(yīng)，但我們正在盡最大努力縮短周期時(shí)間。

然而，對(duì)于新產(chǎn)品來(lái)說(shuō)，從零到大銷(xiāo)量的增長(zhǎng)不會(huì)在一夜之間發(fā)生。一切都在逐漸升溫。我們目前正在加強(qiáng) H100。隨著我們的增加，短期內(nèi)不可能滿(mǎn)足需求。我們還正在加強(qiáng) Spectrum X，這款全新產(chǎn)品在以太網(wǎng)領(lǐng)域的表現(xiàn)非常出色。InfiniBand 是 AI 專(zhuān)用系統(tǒng)的標(biāo)準(zhǔn)，而傳統(tǒng)上不是一個(gè)良好的橫向擴(kuò)展系統(tǒng)的以太網(wǎng)通過(guò) Spectrum X 得到了增強(qiáng)。我們添加了自適應(yīng)路由、擁塞控制和流量隔離等新功能，以針對(duì) AI 優(yōu)化以太網(wǎng)。InfiniBand 將成為我們的 AI專(zhuān)用基礎(chǔ)設(shè)施，Spectrum X 將成為我們的 AI 優(yōu)化網(wǎng)絡(luò)。對(duì)于所有新產(chǎn)品，需求都會(huì)超過(guò)供應(yīng)，這是新產(chǎn)品發(fā)布的典型現(xiàn)象。我們正在盡快工作以滿(mǎn)足需求。總體而言，我們的供應(yīng)量正在顯著增加。

問(wèn)：目前向中國(guó)市場(chǎng)運(yùn)送的產(chǎn)品有多少？是否會(huì)增加其他替代解決方案？

答：美國(guó)政府的核心目的是限制英偉達(dá)加速計(jì)算和人工智能技術(shù)在中國(guó)市場(chǎng)的最新能力，同時(shí)也希望我們能夠在這些限制下在中國(guó)取得成功。當(dāng)新的限制措施宣布后，我們立即停下來(lái) 充分了解它們，并重新配置我們的產(chǎn)品以使其符合要求，確保它們無(wú)法被軟件破解。這個(gè)過(guò)程花了一些時(shí)間，導(dǎo)致我們?cè)谥袊?guó)的產(chǎn)品供應(yīng)重新調(diào)整。我們現(xiàn)在正在向中國(guó)的客戶(hù)提供樣品，并將盡最大努力競(jìng)爭(zhēng)和 在規(guī)定的限制范圍內(nèi)，在該市場(chǎng)取得成功。

上個(gè)季度，由于我們暫停向市場(chǎng)發(fā)貨，我們的業(yè)務(wù)大幅下降。我們預(yù)計(jì)本季度也會(huì)出現(xiàn)類(lèi)似情況。然而，我們希望此后能夠有效地競(jìng)爭(zhēng)我們的業(yè)務(wù)，并將看看它如何展開(kāi)。

問(wèn)：如何拆解軟件業(yè)務(wù)？

答：讓我解釋一下為什么英偉達(dá)會(huì)在軟件方面非常成功。加速計(jì)算與通用計(jì)算有很大不同，它主要在云中增長(zhǎng)。在云中，服務(wù)提供商擁有龐大的工程團(tuán)隊(duì)，他們與我們的團(tuán)隊(duì)密切合作，管理、修復(fù)和維護(hù)加速計(jì)算所需的復(fù)雜軟件堆棧。

加速計(jì)算涉及不同領(lǐng)域的專(zhuān)用軟件堆棧，例如數(shù)據(jù)處理、機(jī)器學(xué)習(xí)、計(jì)算機(jī)視覺(jué)、語(yǔ)音識(shí)別、大型語(yǔ)言模型和推薦系統(tǒng)。Nvidia 開(kāi)發(fā)了數(shù)百個(gè)庫(kù)，因?yàn)檐浖?duì)于打開(kāi)新市場(chǎng)和啟用新應(yīng)用程序至關(guān)重要。加速計(jì)算軟件的必要性是與通用計(jì)算的根本區(qū)別，許多人花了一些時(shí)間才理解這一區(qū)別。

隨著生成式人工智能的出現(xiàn)，每個(gè)企業(yè)和軟件公司現(xiàn)在都在擁抱加速計(jì)算。與大型云服務(wù)提供商不同，這些企業(yè)沒(méi)有龐大的工程團(tuán)隊(duì)來(lái)跨各種環(huán)境維護(hù)和優(yōu)化其軟件堆棧。Nvidia 通過(guò)管理、優(yōu)化、修補(bǔ)和調(diào)整其軟件堆棧來(lái)解決這一差距，并將其容器化到我們所說(shuō)的 Nvidia AI Enterprise 中。該解決方案充當(dāng)運(yùn)行時(shí)，類(lèi)似于人工智能操作系統(tǒng)，而我們的收費(fèi)是每個(gè) GPU每年 4,500 美元。

我們預(yù)計(jì)每個(gè)跨云、私有云和本地部署應(yīng)用程序的企業(yè)和軟件公司都將使用 Nvidia AI Enterprise，尤其是我們的 GPU。這項(xiàng)計(jì)劃已經(jīng)有了一個(gè)良好的開(kāi)端，已經(jīng)實(shí)現(xiàn)了十億美元的運(yùn)行率，而我們才剛剛開(kāi)始。

問(wèn)：如何根據(jù)客戶(hù)部署準(zhǔn)備情況來(lái)管理產(chǎn)品分配？如何監(jiān)控是否存在尚未激活的產(chǎn)品堆積？在跨行業(yè)競(jìng)爭(zhēng)的客戶(hù)、小型初創(chuàng)公司、醫(yī)療保健實(shí)體和政府中，如何確保公平的產(chǎn)品分配？

答：首先，我們的CSPs對(duì)我們的產(chǎn)品路線(xiàn)圖和轉(zhuǎn)換有一個(gè)非清晰的視圖。這種透明度給了他們信心，知道哪些產(chǎn)品放在哪里，以及何時(shí)放置。他們了解時(shí)間，數(shù)量，以及我們的分配過(guò)程。我們努力公平分配，盡我們所能避免不必要的分配。正如之前提到的，數(shù)據(jù)中心尚未準(zhǔn)備好時(shí)分配資源是低效的，導(dǎo)致資源閑置。我們的目標(biāo)是公平分配，并避免不必要的分配。

我們有一個(gè)優(yōu)秀的生態(tài)系統(tǒng)，包括OEMs、ODMs、CSPs，以及重要的終端市場(chǎng)。Nvidia的獨(dú)特之處在于我們不僅提供技術(shù)，還將客戶(hù)帶給我們的合作伙伴，包括CSPs和OEMs。這包括生物技術(shù)公司、醫(yī)療保健公司、金融服務(wù)公司、AI開(kāi)發(fā)商、大型語(yǔ)言模型開(kāi)發(fā)商、自動(dòng)駕駛汽車(chē)公司、機(jī)器人公司等。我們正見(jiàn)證機(jī)器人公司的激增，從倉(cāng)庫(kù)和手術(shù)機(jī)器人到人形機(jī)器人和農(nóng)業(yè)機(jī)器人等。

這些初創(chuàng)企業(yè)和大公司跨越醫(yī)療保健、金融服務(wù)、汽車(chē)等多個(gè)領(lǐng)域，在Nvidia平臺(tái)上工作。我們直接支持他們，有時(shí)通過(guò)將資源分配給CSP并同時(shí)將客戶(hù)介紹給CSP來(lái)促成連接。

我們的生態(tài)系統(tǒng)確實(shí)充滿(mǎn)活力，其核心目標(biāo)是公平分配資源，同時(shí)避免浪費(fèi)，并尋找連接合作伙伴和終端用戶(hù)的機(jī)會(huì)。我們一直在尋找這些機(jī)會(huì)。

問(wèn)：公司如何將積壓訂單轉(zhuǎn)化為收入？產(chǎn)品交貨時(shí)間已經(jīng)大大縮短，但如果將庫(kù)存加上合同和你的預(yù)付費(fèi)供應(yīng)加起來(lái)，公司的供應(yīng)總量實(shí)際上下降了一點(diǎn)。

答：讓我重點(diǎn)介紹我們?nèi)绾慰创?yīng)商的三個(gè)不同方面。首先，當(dāng)物品進(jìn)入庫(kù)存時(shí)我們努力將它們運(yùn)送給我們的客戶(hù)。第二部分是我們的采購(gòu)承諾有許多不同的組件，我們制造所需的組件，但我們也經(jīng)常采購(gòu)我們可能需要的產(chǎn)能，產(chǎn)能或者組件所需求的購(gòu)置時(shí)間長(zhǎng)度都是不同的。其中一些可能會(huì)持續(xù)到接下來(lái)的兩個(gè)季度，但有些可能會(huì)持續(xù)多年。第三，關(guān)于我們的預(yù)付費(fèi)也是同樣的道理。我們的預(yù)付款是預(yù)先設(shè)計(jì)的，以確保我們的幾個(gè)制造供應(yīng)商擁有我們未來(lái)所需的儲(chǔ)備能力。它們只是購(gòu)置的提前時(shí)間長(zhǎng)度不同，因?yàn)槲覀冇袝r(shí)不得不購(gòu)買(mǎi)交貨時(shí)間較長(zhǎng)的東西或需要為我們建造容量的東西。

問(wèn)：如何看待Nvidia產(chǎn)品的長(zhǎng)期可用性？今天的訓(xùn)練集群會(huì)成為明天的推理集群?jiǎn)幔?/strong>

答：我們之所以能夠如此大幅度提高性能，是因?yàn)槲覀兊钠脚_(tái)有兩個(gè)特點(diǎn)。一是它是加速的，二是它是可編程的。Nvidia 是唯一一個(gè)從一開(kāi)始就一直在發(fā)展的架構(gòu)。我們已經(jīng)能夠支持它，優(yōu)化我們的堆棧，并將其部署到我們的安裝基礎(chǔ)中。

一方面，我們可以發(fā)明新的架構(gòu)和技術(shù)，例如Tensor Cores，例如Tensor Cores的Transformer引擎，并使用不同代的Tensor Cores改進(jìn)新的數(shù)值格式和處理結(jié)構(gòu)，同時(shí)支持安裝基礎(chǔ) 。因此，我們采用所有新的軟件算法，投資行業(yè)模型的新發(fā)明，并在我們的安裝基礎(chǔ)上運(yùn)行。

另一方面，每當(dāng)我們看到一些革命性的東西，比如Transformer，我們就可以創(chuàng)造一些全新的東西，比如Hopper Transformer引擎，并將其應(yīng)用到未來(lái)。因此，我們同時(shí)擁有將軟件引入安裝基礎(chǔ)并不斷改進(jìn)的能力。因此，隨著時(shí)間的推移，我們的新軟件不斷豐富我們客戶(hù)的安裝基礎(chǔ)。對(duì)于新技術(shù)，我們創(chuàng)造革命性的能力。