AMD(AMD.US) CTO訪談全文：AI推理芯片需求猛增 GPU供應(yīng)短缺必將緩解

AMD(AMD.US)在這場(chǎng)AI芯片熱潮中一路狂奔，華爾街仍用空前的熱情為“英偉達(dá)最強(qiáng)勁的挑戰(zhàn)者”買單。3月1日，AMD繼前一日大漲9%后再漲超5%，股價(jià)創(chuàng)收盤歷史新高。本周累漲14.8%，今年迄今漲幅達(dá)到30.6%。

AMD CTO及執(zhí)行副總裁Mark Papermaster近期參加了播客節(jié)目《史無前例：人工智能、機(jī)器學(xué)習(xí)、技術(shù)與初創(chuàng)企業(yè)》，回答了AMD的戰(zhàn)略、最新的GPU進(jìn)展、推理芯片部署的位置、芯片軟件棧，以及他們?nèi)绾慰创?yīng)鏈，投資者應(yīng)該對(duì)于2024年的AMD有哪些期待等問題。

主要內(nèi)容包括

與競(jìng)爭(zhēng)對(duì)手相比，AMD的MI300芯片提供了更高的性能、更低的功耗和更少的架構(gòu)空間，實(shí)現(xiàn)了更高效的計(jì)算。

AMD致力于開源因?yàn)樗鼜?qiáng)化了合作和創(chuàng)新，通過不斷開放其關(guān)鍵技術(shù)如ROCm軟件堆棧，讓客戶可以自主選擇，而不是把客戶困在封閉系統(tǒng)中。

AMD確保其產(chǎn)品在主流深度學(xué)習(xí)框架上經(jīng)過徹底測(cè)試和認(rèn)證，并提供了高性能、穩(wěn)定且易于部署的解決方案。

AMD獲得了大量對(duì)AI定制推理芯片的需求，這些需求覆蓋了廣泛的嵌入式應(yīng)用場(chǎng)景。因此，隨著這一趨勢(shì)的發(fā)展，AMD將提供更多定制化計(jì)算產(chǎn)品來回應(yīng)這一需求。

當(dāng)前GPU的供應(yīng)仍然受到限制，但隨著供應(yīng)鏈逐步完善，未來供應(yīng)限制將會(huì)消失。

電力是芯片產(chǎn)能后一個(gè)關(guān)鍵的限制因素。所有大型大語言模型運(yùn)營(yíng)商都在尋找電力來源，對(duì)于AMD這樣的開發(fā)者來說，應(yīng)該更關(guān)注能效，我們會(huì)在設(shè)計(jì)的每一代產(chǎn)品中推動(dòng)能效的提高，這絕對(duì)是最高優(yōu)先級(jí)之一。

摩爾定律正在放緩，而AMD異構(gòu)計(jì)算可以為不同的應(yīng)用部署合適的計(jì)算引擎，如在個(gè)人電腦和嵌入式設(shè)備中配置超低功耗AI加速器，利用芯片組合成一個(gè)整體，選擇最佳技術(shù)節(jié)點(diǎn)，并考慮軟件堆棧的設(shè)計(jì)。

步入云計(jì)算時(shí)代，計(jì)算負(fù)載越來越多地轉(zhuǎn)移到服務(wù)器上，因此AI硬件公司在設(shè)計(jì)產(chǎn)品時(shí)應(yīng)將減少延遲作為主要考慮。

2024年AMD將完成對(duì)其整個(gè)產(chǎn)品組合的AI效能，預(yù)計(jì)在云端、邊緣計(jì)算、個(gè)人電腦、嵌入式設(shè)備及游戲設(shè)備等方面實(shí)現(xiàn)重大部署。

全文問答整理

問：你能先告訴我們一些你的背景嗎？你研究了各種有趣的東西，從iPhone和iPad到最新一代的AMD超級(jí)計(jì)算芯片。

答：當(dāng)然，我在AMD有一段時(shí)間了。真正有趣的是，我進(jìn)入這個(gè)行業(yè)的時(shí)機(jī)非常好，作為德克薩斯大學(xué)電氣和計(jì)算機(jī)工程專業(yè)的畢業(yè)生，我對(duì)芯片設(shè)計(jì)非常感興趣，而我又生在芯片設(shè)計(jì)正在徹底世界的時(shí)代，今天每個(gè)人都在使用這種并研究技術(shù)。CMOS剛剛投入生產(chǎn)和使用。所以我參加了IBM的第一個(gè)CMOS項(xiàng)目，并創(chuàng)建了一些第一個(gè)設(shè)計(jì)。

我必須親自動(dòng)手，從芯片設(shè)計(jì)的每一個(gè)方面，在IBM工作了幾年，我擔(dān)任了不同的角色，推動(dòng)微處理器的發(fā)展。首先，在IBM公司，有電力公司的PC。這意味著與蘋果和摩托羅拉合作，以及我們?cè)诖笮椭鳈C(jī)和大型風(fēng)險(xiǎn)服務(wù)器中使用的大型計(jì)算芯片。

真正得到了技術(shù)的各個(gè)方面，包括他們的一些服務(wù)器開發(fā)工作。但后來轉(zhuǎn)向了蘋果。史蒂夫·喬布斯（Steve Jobs）雇我運(yùn)營(yíng)iPhone和iPod。所以我在那里呆了幾年。這是一個(gè)行業(yè)在下午發(fā)生重大轉(zhuǎn)變的時(shí)刻。對(duì)我來說，這是一個(gè)很好的機(jī)會(huì)，因?yàn)槲以?011年秋季結(jié)束了在AMD的工作，既是首席技術(shù)官，又負(fù)責(zé)技術(shù)和工程。就在摩爾定律開始放緩的時(shí)候，因此需要巨大的創(chuàng)新。

問：是的，我想談?wù)勥@一點(diǎn)，以及我們?cè)谟?jì)算創(chuàng)新方面可以期待什么。如果我們不只是在做夢(mèng)，芯片上更多的晶體管無法做到這一點(diǎn)。我想，我們的每一位聽眾都聽說過AMD，但你能簡(jiǎn)要介紹一下你服務(wù)的主要市場(chǎng)嗎？

答：AMD是一家有50多年歷史的故事公司。它一開始作為第二供應(yīng)商公司，帶來了真正關(guān)鍵組件和x86微處理器。但你快進(jìn)到我們今天所處的位置，這是一個(gè)非常廣泛的投資組合。10年前，當(dāng)我們的首席執(zhí)行官Lisa Su以及我進(jìn)入公司時(shí)，使命是讓AMD重新獲得非常非常強(qiáng)大的競(jìng)爭(zhēng)力。

超級(jí)計(jì)算一直是AMD的重點(diǎn)。大約十年前，我們就開始恢復(fù)我們的CPU路線圖。我們重新設(shè)計(jì)了我們的工程流程，其中之一就是采用更加模塊化的設(shè)計(jì)方法，即我們開發(fā)可重復(fù)使用的部件，然后根據(jù)應(yīng)用需求將其組合在一起。

我們投資開發(fā)了一系列新的高性能CPU，同時(shí)還努力將GPU提升到更高性能。這兩種類型的處理單元都很重要，因?yàn)槌?jí)計(jì)算就是異構(gòu)計(jì)算。它需要CPU和GPU協(xié)調(diào)工作，共同完成最繁重的任務(wù)。

世界上最強(qiáng)大的超級(jí)計(jì)算機(jī)就采用了AMD第三代霄龍7A53 64核心處理器和Instinct MI250X GPU加速器。

就在2022年2月，AMD收購半導(dǎo)體制造商Xilinx，對(duì)電子行業(yè)的合并產(chǎn)生重大影響，從而進(jìn)一步擴(kuò)大了投資組合，這次收購擴(kuò)大了AMD的投資組合，使其在超級(jí)計(jì)算機(jī)、云計(jì)算、游戲設(shè)備和嵌入式設(shè)備等領(lǐng)域都有所涉足。AMD還收購了平桑托公司，進(jìn)一步擴(kuò)展了產(chǎn)品組合。

問：AMD在過去的十年里公司取得了令人矚目的成就，尤其是在人工智能領(lǐng)域。自從你加入公司以來，一直在強(qiáng)調(diào)人工智能的重要性。過去十年中，人工智能的應(yīng)用發(fā)生了巨大的變化，不僅包括傳統(tǒng)的卷積神經(jīng)網(wǎng)絡(luò)（CNN）和循環(huán)神經(jīng)網(wǎng)絡(luò)（RNN），還包括變壓器模型、擴(kuò)散模型等新型架構(gòu)的應(yīng)用。

你能告訴我們更多關(guān)于最初在人工智能領(lǐng)域引起你注意的事情嗎？那么隨著時(shí)間的推移，AMD是如何開始越來越關(guān)注這一點(diǎn)的呢？你想出了什么樣的解決方案？

答： 我們都知道人工智能的發(fā)展早就開始了，競(jìng)爭(zhēng)開始于應(yīng)用程序領(lǐng)域的開放。而AMD的GPU在這場(chǎng)競(jìng)賽中發(fā)揮了關(guān)鍵作用，特別是在圖像識(shí)別和自然語言處理方面的準(zhǔn)確性提升方面。AMD意識(shí)到了人工智能領(lǐng)域的巨大機(jī)遇，并制定了深思熟慮的戰(zhàn)略，以成為該領(lǐng)域的領(lǐng)導(dǎo)者。

因此，看看AMD在2012年到2017年之間的情況，其大部分收入主要基于個(gè)人電腦（PC）和游戲領(lǐng)域。

所以，關(guān)鍵是確保投資組合在構(gòu)建系統(tǒng)模塊化方面具有競(jìng)爭(zhēng)力。這些基石必須是在領(lǐng)域的領(lǐng)導(dǎo)力，必引人們?cè)贏MD平臺(tái)上使用高性能應(yīng)用程序。因此，首先，我們實(shí)際上必須重建CPU路線圖。那就是我們發(fā)布了Zen微處理器，在個(gè)人電腦上有一個(gè)Rising系列，以及在x86服務(wù)器系列中的Epic。所以這開始了公司的收入增長(zhǎng)，并開始擴(kuò)展我們的投資組合。

大約在同一時(shí)間，當(dāng)我們看到異構(gòu)計(jì)算的發(fā)展方向時(shí)，在我加入公司之前就已經(jīng)提出了異構(gòu)計(jì)算的理念。在Lisa加入公司之前，AMD進(jìn)行了一次重大收購——收購了GPU制造商ATI，從而將GPU技術(shù)納入了公司的產(chǎn)品組合，這是我被AMD的CPU和GPU技術(shù)吸引而加入了公司的原因。

事實(shí)上，它是唯一一家將CPU和GPU融合到一起的公司。對(duì)我來說，行業(yè)需要串行、標(biāo)量、這些傳統(tǒng)CPU工作負(fù)載的競(jìng)爭(zhēng)，以及從GPU獲得的大量并行處理能力, 因此AMDk考慮通過異構(gòu)計(jì)算模式將它們結(jié)合在一起，以滿足不同類型的計(jì)算需求。

我們?cè)缭?011年就開始為個(gè)人電腦應(yīng)用程序制造聯(lián)合CPU和GPU芯片，這比任何其他公司都要早。我們稱之為APU（加速處理器單元）。然后，對(duì)于大數(shù)據(jù)應(yīng)用程序，我們首先從HPC（高性能計(jì)算技術(shù)）開始，這種技術(shù)在國(guó)家實(shí)驗(yàn)室中使用，也在石油勘探公司中使用。因此，我們首先專注于大型政府招標(biāo)項(xiàng)目，最終導(dǎo)致了我們?cè)谑澜缟献畲蟮某?jí)計(jì)算機(jī)中擁有AMD CPU和MDGP US。

這項(xiàng)工作幾年前就開始了，它同樣是硬件和軟件的努力。我們一直在建立這種硬件和軟件能力，直到去年的2023年12月6日，我們宣布了我們的旗艦產(chǎn)品MI300，分別為純 GPU 的 MI300X 與 APU 架構(gòu)的 MI300A，均采用 HBM3 內(nèi)存，容量 192GB / 128GB。也是為高性能人工智能應(yīng)用程序優(yōu)化的一個(gè)變體，能夠同時(shí)面向訓(xùn)練和推理。

所以這是一個(gè)漫長(zhǎng)的旅程，我們很高興我們的銷量開始起飛。

問：現(xiàn)在太棒了，我猜當(dāng)你推出MI300時(shí)，你得到了Meta、微軟購買它的承諾。剛剛提到你對(duì)一系列應(yīng)用程序感到非常興奮。你能告訴我們更多關(guān)于你最感興趣的或者今天最看好的應(yīng)用程序以及云端應(yīng)用部署的方面嗎？

答：當(dāng)然，當(dāng)考慮到人工智能的主要應(yīng)用領(lǐng)域時(shí)，你仍然會(huì)看到巨大的資本支出，為了提升大語言模型的準(zhǔn)確性，包括訓(xùn)練和推理領(lǐng)域。這些模型像ChatGPT、Bard和其他語言模型一樣，您可以向它們?cè)儐柸魏螁栴}，它們?cè)噲D吸收海量的數(shù)據(jù)，來對(duì)模型進(jìn)行訓(xùn)練，這的確是人工智能和通用人工智能的終極目標(biāo)。

這就是我們的重點(diǎn)所在。MI300是為了開始實(shí)現(xiàn)這一目標(biāo)的，它是一個(gè)可以與行業(yè)領(lǐng)導(dǎo)者競(jìng)爭(zhēng)的典范產(chǎn)品。事實(shí)上，MI300已經(jīng)做到了,它在訓(xùn)練方面具有競(jìng)爭(zhēng)力，且在推理方面領(lǐng)先，具有巨大的性能優(yōu)勢(shì)。我們?yōu)橛?xùn)練或推理處理所需的數(shù)學(xué)處理創(chuàng)建了非常高效的引擎。但我們也提供了更多的內(nèi)存，以實(shí)現(xiàn)更高效的計(jì)算。

與競(jìng)爭(zhēng)對(duì)手相比，MI300提供了更高的性能、更低的功耗和更少的機(jī)架空間，實(shí)現(xiàn)了更高效的計(jì)算。

問：競(jìng)爭(zhēng)的一個(gè)重要方面，正如你剛才指出的那樣，包括性能，例如整體性能，還有效率，以及軟件平臺(tái)等等。你如何考慮在優(yōu)化數(shù)學(xué)庫上的投資？你希望開發(fā)人員如何理解你們的方法？與競(jìng)爭(zhēng)對(duì)手相比，你們的指導(dǎo)方式是什么？

答：這個(gè)問題非常好，在這個(gè)芯片領(lǐng)域競(jìng)爭(zhēng)是多方面的。你會(huì)看到很多初創(chuàng)公司進(jìn)軍這個(gè)領(lǐng)域，但大部分的推理工作目前都是在通用目的的CPU上完成的，對(duì)于大型語言模型應(yīng)用，幾乎都是在GPU上完成的。

由于GPU在軟件和開發(fā)人員生態(tài)系統(tǒng)中占據(jù)主導(dǎo)地位，因此AMD開始關(guān)注GPU的發(fā)展，在硬件和軟件方面取得了成就。我們?cè)贑PU上是有競(jìng)爭(zhēng)力的，我們的份額正在快速增長(zhǎng)，因?yàn)槲覀儞碛幸淮忠淮浅?qiáng)大的CPU。

但對(duì)于GPU，直到現(xiàn)在我們才真正開發(fā)出世界一流的硬件和軟件。我們所做的是確保GPU的部署過程盡可能簡(jiǎn)單，強(qiáng)調(diào)利用所有GPU的語義，使得編碼變得更加容易，尤其是對(duì)于使用低級(jí)語義的編碼人員而言。我們支持所有重要的軟件庫和框架，包括PyTorch、ONNX和TensorFlow等，與開發(fā)人員密切合作，以確保他們的GPU能夠與各種不同的軟件環(huán)境無縫集成，并為開發(fā)人員提供靈活和高效的工具。

現(xiàn)在，由于我們擁有具有競(jìng)爭(zhēng)力和領(lǐng)導(dǎo)力的產(chǎn)品，你會(huì)看到當(dāng)你們使用AMD進(jìn)行部署時(shí)非常容易。比方說，AMD與Hugging Face等合作伙伴緊密合作，確保他們的大語言模型在AMD平臺(tái)上進(jìn)行測(cè)試，并保證在與英偉達(dá)等其他平臺(tái)上的測(cè)試結(jié)果表現(xiàn)相當(dāng)。

同樣，AMD在PyTorch等主流深度學(xué)習(xí)框架上也進(jìn)行了測(cè)試，并成為了少數(shù)幾個(gè)獲得認(rèn)證的產(chǎn)品之一，意味著AMD與他們的產(chǎn)品完全兼容。AMD也會(huì)定期進(jìn)行回歸測(cè)試，確保產(chǎn)品在各種情況下的穩(wěn)定性和可靠性。AMD積極與客戶合作，包括與一些早期采用其產(chǎn)品的公司合作，以獲取反饋并優(yōu)化產(chǎn)品。這有助于AMD確保他們的產(chǎn)品能夠順利部署，并在現(xiàn)有的業(yè)務(wù)環(huán)境中無縫運(yùn)。

另外，AMD與一些早期合作伙伴進(jìn)行合作，幫助他們將自己的大型語言模型（LLMS）部署到AMD的云端和機(jī)架配置中。這種合作意味著AMD已經(jīng)開始與客戶合作，并提供服務(wù)，以確保他們的產(chǎn)品能夠在客戶環(huán)境中順利運(yùn)行。

在AMD的十二月活動(dòng)中，其他合作伙伴也站在了舞臺(tái)上，這表明AMD與其他重要的合作伙伴合作，其中包括一些超大規(guī)模的合作伙伴。這種合作擴(kuò)大了AMD的合作范圍，并有助于將其產(chǎn)品推廣到更廣泛的市場(chǎng)。AMD還與許多OEM應(yīng)用程序進(jìn)行銷售，并直接與客戶合作。通過與客戶直接合作，AMD可以更好地了解客戶需求，并根據(jù)反饋加速產(chǎn)品的改進(jìn)和優(yōu)化過程。

這是一個(gè)非常受限制的環(huán)，缺乏競(jìng)爭(zhēng)對(duì)每個(gè)人都不利。順便說一句，如果沒有競(jìng)爭(zhēng)，行業(yè)最終會(huì)停滯不前，您可以看看在我們帶來競(jìng)爭(zhēng)前的CPU行業(yè)。它真的變得停滯不前了。你只是得到了漸進(jìn)的改進(jìn)。行業(yè)知道這一點(diǎn)，我們與眾多伙伴建立了巨大的合作關(guān)系，我們對(duì)此非常感激。

作為回報(bào)，我們將繼續(xù)提供一代又一代有競(jìng)爭(zhēng)力的產(chǎn)品。

問：談一談rocm軟件棧的開源原因、動(dòng)機(jī)或者價(jià)值觀。

答： 這是個(gè)好問題，ROCm是AMD的開源GPU計(jì)算軟件堆棧，旨在提供一個(gè)可移植、高性能的GPU計(jì)算平臺(tái)。對(duì)于公司來說，開源是一個(gè)非常重要的問題，因?yàn)樗麄兎浅Ｗ⒅睾献骱烷_放的文化。開源技術(shù)將技術(shù)開放給了整個(gè)社區(qū)，這有助于推動(dòng)技術(shù)的發(fā)展和創(chuàng)新。AMD的歷史上一直致力于開源，CPU編譯器LLVM就是一個(gè)開源項(xiàng)目。除了CPU編譯器和GPU之外，我們還開放了ROCm軟件堆棧，是他們的基礎(chǔ)架構(gòu)，對(duì)于贏得超級(jí)計(jì)算方面起著重要作用。選擇支持開源的原因是因?yàn)橄嘈胚@種開放的理念，同時(shí)強(qiáng)調(diào)這也是公司的理念之一。

所以，在2002年將 Xi Links 和 AMD 結(jié)合在一起，我所做的不僅僅是加深了對(duì)開源的承諾，關(guān)鍵是，我們不想通過專有的封閉式軟件堆棧來鎖定某人。我們想要的是以最佳解決方案取得勝利，我們致力于開源，并且致力于為我們的客戶提供選擇。

我們期望憑借最佳解決方案獲勝，但我們不會(huì)將客戶困在某一特定選擇中。我們將憑借一代又一代的優(yōu)勢(shì)贏得勝利。

問：我認(rèn)為目前發(fā)展迅速的一個(gè)領(lǐng)域是人工智能計(jì)算的云服務(wù)。顯然，有來自微軟的Azure、亞馬遜的AWS和谷歌的GCP這樣的超級(jí)云服務(wù)提供商。但也有其他新興的參與者，比如BaseTen和ModalReplicate等?？梢哉f，它們?cè)谔峁┎煌墓ぞ?、API端點(diǎn)等方面提供了差異化的服務(wù)，而這些超級(jí)云服務(wù)提供商目前尚未具備。另外，它們部分原因是擁有GPU資源，而目前GPU資源短缺，這也推動(dòng)了它們的利用率。在未來3到4年內(nèi)，您如何看待這個(gè)市場(chǎng)的發(fā)展？也許GPU會(huì)變得更加易于獲得，不再出現(xiàn)短缺或限制的情況？

答：這確實(shí)正在發(fā)生。我認(rèn)為供應(yīng)受限的情況將會(huì)消失，這是其中的一部分。我們正在加緊生產(chǎn)和發(fā)貨，進(jìn)展得相當(dāng)順利。但更重要的是，回答您的問題，我認(rèn)為應(yīng)該這樣考慮：市場(chǎng)正在以令人驚嘆的速度迅速擴(kuò)張。我之前說過，今天大多數(shù)的應(yīng)用程序都是從這些大規(guī)模的語言模型開始的，這些模型主要基于云，且不僅僅是基于云，而是基于超大規(guī)模的云，因?yàn)檫@需要一個(gè)龐大的集群，不僅用于訓(xùn)練，而且實(shí)際上還用于許多類型的生成型語言模型的推理。

但現(xiàn)在發(fā)生的情況是，我們看到一個(gè)接一個(gè)的應(yīng)用程序呈非線性增長(zhǎng)。我們看到的是一種泛濫現(xiàn)象，人們開始理解他們?nèi)绾味ㄖ扑麄兊哪Ｐ?，如何微調(diào)它，如何擁有更小的模型，不需要回答任何問題或支持任何應(yīng)用程序。但它可能只是適用于您業(yè)務(wù)領(lǐng)域的某個(gè)專業(yè)領(lǐng)域。因此，這種多樣性使得計(jì)算規(guī)模以及如何配置集群的需求變得非常豐富多樣。市場(chǎng)正在迅速擴(kuò)展，您需要為計(jì)算集群配置特定于應(yīng)用程序的配置。它甚至進(jìn)一步發(fā)展，不僅僅局限于這些龐大的高規(guī)模超大規(guī)模，而是向著我將其稱為數(shù)據(jù)中心的階層轉(zhuǎn)變。

這一切都源于，當(dāng)您考慮那些真正定制的應(yīng)用程序時(shí)，它們可以在邊緣設(shè)備上運(yùn)行，直接在您的工廠車間實(shí)現(xiàn)非常低的延遲，將語言模型放在數(shù)據(jù)創(chuàng)建的源頭，直接面向最終用戶設(shè)備。

我們已經(jīng)將我們的AI推理加速器集成到我們的個(gè)人電腦中，并在整個(gè)2023年持續(xù)發(fā)貨。實(shí)際上，今年SES已經(jīng)宣布了我們下一代AI加速個(gè)人電腦。而且，隨著我們的Xilinx產(chǎn)品組合覆蓋到嵌入式設(shè)備，我們從行業(yè)中獲得了很多對(duì)定制推理應(yīng)用的需求，這些需求覆蓋了廣泛的嵌入式應(yīng)用場(chǎng)景。因此，隨著這一趨勢(shì)的發(fā)展，我們將看到更多定制化的計(jì)算安裝，以滿足不斷增長(zhǎng)的需求。

問：很有道理，未來很大一部分或一小部分的推理（AI計(jì)算任務(wù)）將會(huì)被推向邊緣計(jì)算。很明顯，我們將在設(shè)備上，無論是筆記本電腦還是手機(jī)上，運(yùn)行一些小型模型。這里提到的“邊緣計(jì)算”指的是在數(shù)據(jù)產(chǎn)生地點(diǎn)附近進(jìn)行數(shù)據(jù)處理，而不是將數(shù)據(jù)發(fā)送到數(shù)據(jù)中心或云進(jìn)行處理。這樣可以減少延遲，提高處理速度。

至少在短期內(nèi)，對(duì)于大型模型或大型數(shù)據(jù)中心可能存在一些持續(xù)的潛在限制因素，關(guān)于GPU供應(yīng)側(cè)面臨的主要限制因素是什么？包括封裝問題、臺(tái)積電的產(chǎn)能，以及其他可能的限制因素？有些人說在處理當(dāng)前的限制之后，下一個(gè)問題是數(shù)據(jù)中心是否有足夠的電力來運(yùn)行這些設(shè)備。并且有點(diǎn)好奇應(yīng)該如何考慮這些限制因素，以及供需狀況何時(shí)能夠更加平衡？

答：坦率的說，供需平衡實(shí)際上是任何芯片制造商都必須管理的問題，你需要確保你的供應(yīng)。回顧疫情期間，我們的設(shè)備需求大增，這使得我們的供應(yīng)鏈緊張，因?yàn)楫?dāng)時(shí)PC電腦的需求大幅上升，人們?cè)诩夜ぷ鳎覀兊腦86服務(wù)器的需求也大幅上升。因此，在疫情期間，我們處于"緊急模式"。我們做得很好，雖然有基板短缺，但我們?cè)黾恿烁嗟幕逯圃炷芰Α?/p>

我們與我們的主要晶圓代工供應(yīng)商臺(tái)積電合作，與他們建立了深入的合作伙伴關(guān)系，我們已經(jīng)合作了幾十年。如果我們能提前預(yù)判并理解市場(chǎng)信號(hào)，我們通常能夠滿足供應(yīng)，如果有短缺，通常也能夠得到良好的控制。關(guān)于人工智能，很明顯我們看到了需求的大幅增加。

晶圓廠正在作出響應(yīng)，你必須不僅僅認(rèn)為這是晶圓廠的問題，你絕對(duì)正確。關(guān)于封裝，我們和我們的GPU競(jìng)爭(zhēng)對(duì)手都使用了先進(jìn)的封裝技術(shù)。我會(huì)給你看的。雖然攝像頭可能無法清楚地顯示，但這是我們的MI300。你看到的是一整套芯片組。所以是較小的芯片，具有CPU功能、IO和內(nèi)存控制器。它可以是我們專注于高性能計(jì)算的版本的CPU。

我們直接將我們的CPU芯片集成在同一個(gè)系統(tǒng)中。還有周圍所有的高帶寬內(nèi)存，以供給這些引擎。這些芯片是側(cè)向連接的，在MI300上，我們也將這些設(shè)備垂直連接。所以這是一個(gè)復(fù)雜的供應(yīng)鏈，但我們?cè)谶@方面非常非常擅長(zhǎng)。我們是一家出色的公司，已經(jīng)有18年了。我們的AMD供應(yīng)鏈團(tuán)隊(duì)做得非常好，我認(rèn)為總體來說，行業(yè)將會(huì)超越這類供應(yīng)限制。

現(xiàn)在你提到了電力。我認(rèn)為，這最終將是一個(gè)關(guān)鍵的限制因素。你看到所有主要的運(yùn)營(yíng)商都在尋找電力來源，對(duì)于我們這樣的引擎開發(fā)者，這些引擎消耗的電力，我們非常關(guān)注能效，并且我們會(huì)在我們?cè)O(shè)計(jì)的每一代產(chǎn)品中推動(dòng)能效的提高。這絕對(duì)是我們的最高優(yōu)先級(jí)之一。

問：隨著摩爾定律的終結(jié)，即集成電路上可容納的晶體管數(shù)量每?jī)赡攴兜乃俣确啪?，如何通過創(chuàng)新來繼續(xù)提高計(jì)算能力成為了一個(gè)重要話題。你曾經(jīng)表示，這種挑戰(zhàn)激發(fā)了你加入AMD的興趣，特別是想了解AMD將如何在不同的創(chuàng)新方向上進(jìn)行投資。此外，對(duì)三維堆疊技術(shù)表示好奇，希望以通俗易懂的方式獲得解釋，這是一種通過垂直堆疊芯片來增加集成度和性能的技術(shù)。

答：關(guān)于3D堆棧技術(shù)，簡(jiǎn)單來說，它是一種先進(jìn)的封裝技術(shù)，可以將多個(gè)芯片層疊在一起，從而提高了集成度和性能，同時(shí)還可以節(jié)省空間。當(dāng)摩爾定律放緩時(shí)，芯片技術(shù)自身從一個(gè)代際過渡到下一個(gè)代際的能力降低了，這意味著我們不能再依靠新的半導(dǎo)體技術(shù)節(jié)點(diǎn)來縮小設(shè)備尺寸、提高性能、降低功耗并維持相同的成本。

因此，現(xiàn)在需要更多的創(chuàng)新，要求全面的設(shè)計(jì)思維，比如依賴于新的器件轉(zhuǎn)換、新的晶圓節(jié)點(diǎn)技術(shù)。

而異構(gòu)計(jì)算，意味著為合適的應(yīng)用帶來正確的計(jì)算引擎，例如我們?cè)趥€(gè)人電腦和嵌入式設(shè)備中擁有的超低功耗AI加速器。這關(guān)乎為特定應(yīng)用量身定制引擎，利用芯片組合成一個(gè)整體，選擇最佳技術(shù)節(jié)點(diǎn)，并考慮軟件堆棧的設(shè)計(jì)。這種優(yōu)化需要從晶體管設(shè)計(jì)做起，一直到計(jì)算設(shè)備集成的全過程，并且還要兼顧軟件堆棧和應(yīng)用程序的視角。與所有在AMD工作的工程師一樣，我為有機(jī)會(huì)進(jìn)行這些工作而感到興奮，因?yàn)槲覀儞碛袠?gòu)建這些的基石，而且AMD的文化中內(nèi)建了合作精神，不需要開發(fā)整個(gè)系統(tǒng)或應(yīng)用程序堆棧，而是通過深入合作來確保解決方案的優(yōu)化。

問：如何在當(dāng)前全球政治經(jīng)濟(jì)格局中，確保芯片制造的安全和供應(yīng)鏈的穩(wěn)定性？

答：我們必須考慮這些問題。我們非常支持與國(guó)際間互相合作，確實(shí)存在這樣的問題：現(xiàn)在如何依賴芯片設(shè)計(jì)來運(yùn)行那些至關(guān)重要的系統(tǒng)，確保供應(yīng)連續(xù)性成為國(guó)家安全的問題。

因此，我們將這一點(diǎn)納入我們的戰(zhàn)略，并與我們的合作伙伴一起構(gòu)建它。我們支持晶圓廠的擴(kuò)張。你看到臺(tái)積電在亞利桑那建造晶圓廠，我們與他們合作。你看到三星在德克薩斯建造晶圓廠，但不僅僅是在美國(guó)，我們實(shí)際上也在全球范圍內(nèi)擴(kuò)張，比如在歐洲和亞洲其他地區(qū)的設(shè)施。

這種情況超出了代工廠的范疇，包裝也是同樣的問題，當(dāng)你把芯片放在載體上時(shí)，你需要互聯(lián)，你需要那個(gè)生態(tài)系統(tǒng)也具有地理多樣性。

我們認(rèn)為，讓每個(gè)人都知道將會(huì)有地理多樣性是非常重要的事情。我們正深度參與其中。實(shí)際上，我對(duì)我們所取得的進(jìn)展感到非常滿意。這不是一夜之間就能發(fā)生的事情。這是芯片設(shè)計(jì)與軟件之間的區(qū)別。有人不能用軟件，你可以迅速地提出一個(gè)新想法，并將產(chǎn)品非常迅速地推向市場(chǎng)，設(shè)計(jì)出最小可行產(chǎn)品，推出去，它可以迅速流行。但是，擴(kuò)大供應(yīng)鏈確實(shí)需要數(shù)年的準(zhǔn)備工作，整個(gè)半導(dǎo)體行業(yè)從歷史上看也是這樣建立起來的。這是一個(gè)全球性的產(chǎn)業(yè)鏈，將會(huì)創(chuàng)造地理上的專業(yè)知識(shí)集群。

這就是我們今天所處地位，但是當(dāng)我們今天面臨更加動(dòng)蕩的宏觀環(huán)境，分散制造能力就顯得尤為重要。這項(xiàng)工作已經(jīng)在進(jìn)行中。

問：怎么看AI硬件的發(fā)展？AMD現(xiàn)在為許多有趣的設(shè)備和應(yīng)用提供動(dòng)力沒，今天在構(gòu)建的東西怎么樣？有Vision Pro，有Rabbit（這是一種以AI為首的設(shè)備），這種以健康為中心的HumanE，還有Figure?？雌饋硐袷峭蝗婚g有很多新的硬件設(shè)備爆炸性的增長(zhǎng)。我很好奇想知道你的觀點(diǎn)，你認(rèn)為是什么趨勢(shì)預(yù)示了這些產(chǎn)品的成功？什么趨勢(shì)可能預(yù)示著失敗，我們應(yīng)該如何看待這些新的事物和設(shè)備的集合？

答：這個(gè)問題非常好。我會(huì)從技術(shù)的角度開始，作為芯片設(shè)計(jì)師，這些不同類型的硬件同時(shí)產(chǎn)生的原因你應(yīng)該感到自豪，因?yàn)槟愕玫降挠?jì)算能力越來越強(qiáng)，體積縮小了，而且功耗非常低。

你可以看到越來越多的設(shè)備，它們擁有令人難以置信的計(jì)算和視聽能力。你看Meta Quest和Vision Pro這樣的設(shè)備，這不是一夜之間發(fā)生的。你看早期的版本，它們太重了，太大了，計(jì)算能力不夠。

因?yàn)槿绻泐^戴設(shè)備的屏幕上看到光子和實(shí)際處理之間的延遲太高，你真的會(huì)在佩戴它并試圖觀看電影或玩游戲時(shí)感到身體不適。

首先，我為我們作為一個(gè)行業(yè)所取得的技術(shù)進(jìn)步感到自豪。我們當(dāng)然非常自豪于AMD在這方面的推動(dòng)，但你提出的更廣泛的問題是，你如何知道什么會(huì)成功？技術(shù)是一個(gè)鄰居。

但如果有一件事我在蘋果學(xué)到的是，真正成功的設(shè)備是滿足需求的。它們真的給了你一個(gè)你喜歡的能力。這不僅僅是增量的。我可以做一些比我之前做的事情稍微好一點(diǎn)的事情。它必須是你喜歡的東西，創(chuàng)造一個(gè)新類別。它是由技術(shù)啟用的，但產(chǎn)品本身必須真正激發(fā)你的興趣，并給你新的能力。我會(huì)提到一件事。我提到了PC中的AI使能。我認(rèn)為這幾乎會(huì)使PC成為一個(gè)新類別。因?yàn)楫?dāng)你想到你將能夠運(yùn)行的應(yīng)用類型，超高性能，但又低功耗的推理你可以運(yùn)行。想象一下，現(xiàn)在如果我根本不會(huì)說英語，我正在觀看這個(gè)播客。假設(shè)它是現(xiàn)場(chǎng)直播的，我點(diǎn)擊我的實(shí)時(shí)翻譯。我可以將它翻譯成我的口語，沒有可察覺的延遲。這只是無數(shù)新應(yīng)用中的一個(gè)將被啟用的。

是的，我認(rèn)為這是一個(gè)非常有趣的時(shí)期，因?yàn)槎嗄陙?，像AMD這樣的公司從中受益，對(duì)吧？

你也在數(shù)據(jù)中心，但有如此多的計(jì)算負(fù)載移動(dòng)到服務(wù)器，對(duì)吧？云的時(shí)代，所有這些復(fù)雜的消費(fèi)者社交應(yīng)用程序的時(shí)代。我認(rèn)為在新時(shí)代，試圖創(chuàng)造體驗(yàn)和戰(zhàn)斗，像所有這些新的應(yīng)用公司都在作為一個(gè)主要考慮因素而戰(zhàn)斗延遲，因?yàn)槟阌芯W(wǎng)絡(luò)，模型慢。你在嘗試改變模型，你有事情想要在設(shè)備上再做一次。我只是覺得這已經(jīng)有一段時(shí)間沒有像一個(gè)真正的設(shè)計(jì)考慮了。先生，我同意你的看法。我認(rèn)為這是下一組挑戰(zhàn)之一，那就是真正解決不僅僅是在云端、邊緣這些用戶設(shè)備上啟用高性能和AI應(yīng)用的想法。

問：2024年AMD有什么部署？

答：對(duì)于我們來說，這是重要的一年，因?yàn)槲覀兓撕芏嗄陼r(shí)間發(fā)展我們的硬件和軟件以支持人工智能，我們剛剛完成了對(duì)我們整個(gè)產(chǎn)品組合的AI使能。所以云端、邊緣、我們的個(gè)人電腦、我們的嵌入式設(shè)備、我們的游戲設(shè)備，我們正在使我們的游戲設(shè)備通過AI進(jìn)行升級(jí)，2024年對(duì)我們來說真的是一個(gè)巨大的部署年。

所以現(xiàn)在基礎(chǔ)已經(jīng)打好，能力也已經(jīng)具備。我跟你們提到了我們所有的合作伙伴。2024年對(duì)我們來說是一個(gè)巨大的部署年份。我認(rèn)為我們?cè)谌斯ぶ悄茴I(lǐng)域經(jīng)常被忽視，每個(gè)人都知道我們的競(jìng)爭(zhēng)對(duì)手，但我們不僅想在人工智能領(lǐng)域被認(rèn)識(shí)，而且基于結(jié)果、基于能力和我們提供的價(jià)值，我們希望在2024年被認(rèn)為是真正使人工智能在云端、在大規(guī)模LLM訓(xùn)練和推理中用于再生性AI的廣泛應(yīng)用中得到啟用并普及的公司，同樣也是在整個(gè)計(jì)算領(lǐng)域中。

我認(rèn)為這也是應(yīng)用程序的擴(kuò)展組合開始活躍的一年。我看看微軟在談?wù)撌裁?，在他們正在做的能力啟用方面，從云到客戶端。這是非常令人興奮的。許多和我談過的獨(dú)立軟件供應(yīng)商（ISVs）都在做同樣的事情。而且坦率地說，薩拉，他們正在解決你問的那個(gè)問題，我如何編寫我的應(yīng)用程序，以便我給你最好的體驗(yàn)，同時(shí)利用云端和你手中或在你的筆記本電腦上運(yùn)行應(yīng)用程序的設(shè)備。

所以這將是一個(gè)變革性的一年，我們?cè)贏MD感到非常興奮，似乎處在了這一切的中心。

本文來源“華爾街見聞”，作者葛佳明，智通財(cái)經(jīng)編輯：陳秋達(dá)。