服務(wù)器代工廠專家：明年預(yù)計(jì)H100會(huì)有20-25%的跌幅

出貨和節(jié)奏：英偉達(dá)的卡全年125-130w張(純A100)，整個(gè)ai服務(wù)器訓(xùn)練增加比較多，今年A100為主，A800今年供應(yīng)還是比較大的問(wèn)題的，預(yù)計(jì)今年A800在今年第四季度，10w張左右;

A100：第一季度出貨量比較少，按照臺(tái)積電的產(chǎn)能，按照貨期2-3個(gè)月(芯片離開臺(tái)積電到板卡廠商需要的時(shí)間，目前看芯片在臺(tái)積電生產(chǎn)1-1.5個(gè)月能做完，時(shí)間比較快，所以合計(jì)生產(chǎn)到板卡廠商需要4個(gè)月，所以第一季度的就能反應(yīng)到二季度上)，第一個(gè)季度出的去年的卡，第二季度開始是今年新生產(chǎn)的分季度銷量預(yù)期：Q1 10w張，Q2 35w張，Q3 40w張，Q4 43w張，這是目前看到市場(chǎng)的英偉達(dá)的出貨量;

H100：預(yù)計(jì)今年出貨53-55w張，看到今年Q1 2.5w張，Q2 不到5000片，Q3 26w片，Q4 27w片;今年H800沒(méi)看到出貨量;合計(jì)180w張，10-15w張是庫(kù)存，wafer 55-60k的晶圓片;

去年出貨：A100 46w張;

二季度出貨量和英偉達(dá)業(yè)績(jī)指引之間的差異：還沒(méi)算推理卡，T4 205-210w張，分季度不太清楚;明年到F4和F40，明年推理320-330w張;明年訓(xùn)練卡的比例會(huì)增加，推理卡的比例會(huì)下降

價(jià)格：A100英偉達(dá)出貨價(jià)格9000-1w美金/ 張，板卡，H100 2.8-2.9w美金/張，板卡;我們代工6300-6400美金的價(jià)格給英偉達(dá)，臺(tái)積電封裝好的芯片6000美金，PCB 60美金，模組 50美金，外面的鐵殼 40-50美金，我們加工費(fèi)150美金左右，然后英偉達(dá)給終端客戶9000-1w美金;我們的利潤(rùn)在100美金左右;

H100 ：賣給英偉達(dá)1.3-1.4w美金;

bom：芯片1.3w美金，pcb 80美金，模組 75美金，鐵殼40美金，加工費(fèi)250美金不到300美金，我們的利潤(rùn)180-200美金/片;

明年預(yù)計(jì)H100會(huì)有20-25%的跌幅。

明年出貨：訓(xùn)練服務(wù)器增速很快，A100 差不多也是130w，H100 3-4x的增加到150-200w，A+H 330-340w片;A800 20-30w張，合計(jì)370w左右的片;這個(gè)數(shù)字是英偉達(dá)給我們的，10月份會(huì)再次確定;

服務(wù)器：AI 45W臺(tái)70%是推理服務(wù)器， 30-31是推理服務(wù)器，剩下的是15w臺(tái)是訓(xùn)練服務(wù)器;明年預(yù)計(jì)增幅80%81-82w,訓(xùn)練占比60% 49w臺(tái)，推理32-33w臺(tái);云廠商的份額;數(shù)據(jù)來(lái)源是客戶的增速預(yù)估，24年到25年60%，到26年增速恢復(fù)正常;服務(wù)器折算成卡，占英偉達(dá)的60%訓(xùn)練8卡，推理是4卡對(duì)應(yīng)關(guān)系;明年訓(xùn)練卡的比例會(huì)增加，推理卡的比例會(huì)下降，今年推理卡和訓(xùn)練卡的比例是7:3，明年 6:4;所以推理卡的增速是略慢于服務(wù)器的增速，訓(xùn)練卡的增速高于服務(wù)器的增速。

客戶結(jié)構(gòu)：從今年看，某些客戶，比如微軟的推理服務(wù)器的占比已經(jīng)在下調(diào)，亞馬遜和google推理和訓(xùn)練比例是7:3;

H100服務(wù)器的boom：2顆CPU，1250美金/顆，GPU H100 8張，價(jià)格2.8w-2.9w美金/張，內(nèi)存180美金/條 32條，pca板 480美金/每塊，SSD存儲(chǔ)500美金 20顆，機(jī)箱 200美金，光模塊+光纖 1500美金/組，8組，目前用400g，電源500美金 4個(gè);

中國(guó)客戶：今明出的很少;

明年81-82w臺(tái)服務(wù)器：中國(guó)占比15%，剩下85%全是北美客戶;

如何看各種新聞騰訊和字節(jié)下單很多張卡的新聞?對(duì)于我們現(xiàn)在看到的騰訊字節(jié)也好，下了10w張卡，還沒(méi)從英偉達(dá)那邊拿到相對(duì)比較精準(zhǔn)的信息，英偉達(dá)但凡有加單我們比較清楚，我們代工A100和H100服務(wù)器，目前比較明確的BBAT這四家給英偉達(dá)下了10wA800，預(yù)計(jì)在第四季度交付，明年比較明確的是字節(jié)是7w A800，騰訊還沒(méi)看到，在國(guó)內(nèi)A800需求量最大的還是BBAT，特別是字節(jié)，在國(guó)內(nèi)的發(fā)展速度是非常快的，阿里相對(duì)也比較大5-6w 張，騰訊和百度A800不會(huì)有特別大的提 升，維持在每家4-6w張左右;

24年130W A100客戶拆分：A明年出貨量在互聯(lián)網(wǎng)行業(yè)會(huì)下降到40-50%，另外60%會(huì)給中小客戶和渠道客戶，A100的卡，預(yù)計(jì)在25年會(huì)被H100替代;

推理卡的價(jià)格：3000美金/顆;

卡：包含工業(yè)富聯(lián)自己做ai服務(wù)器的卡GH200和DGX明年的量：GH200目前看到量很少，目前我們就只做芯片的代工，整機(jī)是廣達(dá)在做;DGX今年出貨量7000臺(tái)，明年英偉達(dá)給我們的預(yù)估指引1-1.1w臺(tái);

代工利潤(rùn)率：推理服務(wù)器和a100的服務(wù)器凈利潤(rùn)率基本在4-6%(整機(jī)售價(jià)的)， H100基本在7-9%;

光模塊：插拔式，在sever上給到H100對(duì)外通訊的通道模塊(所以算在boom里面了)，H100服務(wù)器8個(gè)，上游交換機(jī)也要配光模塊，普通服務(wù)器就不需要了;

未來(lái)比如25年后推理和訓(xùn)練服務(wù)器比例：26年開始恢復(fù)正常推理和訓(xùn)練7:3附近;finisar 英偉達(dá)加單200w如何看：光模塊和我們沒(méi)太多聯(lián)系，我們更多是做板塊，是新加的，我們會(huì)有部分新加的，對(duì)應(yīng) DGX也加了，GH200也應(yīng)該加了;對(duì)應(yīng)20w臺(tái)的;廣達(dá)那邊對(duì)gh200很樂(lè)觀;客戶是基本都是頭部客戶;H100服務(wù)器28- 30w美金，gh200服務(wù)器30w+，很貴，所以還是頭部客戶;

本文選自微信公眾號(hào)：SEVEN調(diào)研紀(jì)要。智通財(cái)經(jīng)編輯：張計(jì)偉。