黃仁勛詳解驅(qū)動英偉達增長的五種力量： 萬億美元數(shù)據(jù)中心轉(zhuǎn)向加速計算，Blackwell是 Hopper的階梯式飛躍！
時間：24-08-30 來源：王錚Silvia
黃仁勛詳解驅(qū)動英偉達增長的五種力量：
萬億美元數(shù)據(jù)中心轉(zhuǎn)向加速計算，Blackwell是
Hopper的階梯式飛躍！
業(yè)績陳述：Hopper需求強勁，Blackwell正廣泛采樣
Colette M. Kress -- 首席財務(wù)官兼執(zhí)行副總裁
第二季度我們再次創(chuàng)下了記錄。
收入達到300億美元，環(huán)比增長15%，同比增長122%，遠遠超出我們280億美元的預(yù)期。
多種工作負(fù)載
推動數(shù)據(jù)中心收入快速增長
從數(shù)據(jù)中心業(yè)務(wù)開始說起。
數(shù)據(jù)中心業(yè)務(wù)收入為263億美元，創(chuàng)歷史新高，環(huán)比增長16%，同比增長154%，這一增長是由對NVIDIA Hopper、GPU計算和我們的網(wǎng)絡(luò)平臺的強勁需求推動的。
計算業(yè)務(wù)收入增長超過2.5倍。
網(wǎng)絡(luò)業(yè)務(wù)收入同比增長超過2倍。
云服務(wù)提供商約占我們數(shù)據(jù)中心收入的45%，超過50%的收入來自消費互聯(lián)網(wǎng)和企業(yè)公司。
客戶繼續(xù)加快購買Hopper架構(gòu)的產(chǎn)品，同時準(zhǔn)備采用Blackwell架構(gòu)。
推動我們數(shù)據(jù)中心增長的關(guān)鍵工作負(fù)載包括：
生成式AI模型的訓(xùn)練和推理；
使用CUDA和AI工作負(fù)載對視頻、圖像和文本數(shù)據(jù)進行預(yù)處理和后處理；
合成數(shù)據(jù)生成；
AI驅(qū)動的推薦系統(tǒng)；
以及SQL和向量數(shù)據(jù)庫處理。
下一代模型將需要10到20倍的計算能力來進行訓(xùn)練，并且需要處理更多的數(shù)據(jù)。預(yù)計這一趨勢將繼續(xù)下去。
在過去的四個季度中，我們估計推理工作負(fù)載推動了我們數(shù)據(jù)中心超過40%的收入。云服務(wù)提供商、消費互聯(lián)網(wǎng)公司和企業(yè)都從NVIDIA的推理平臺的驚人吞吐量和效率中受益。
對NVIDIA的需求來自前沿模型制造商、消費互聯(lián)網(wǎng)服務(wù)，以及成千上萬的公司和初創(chuàng)企業(yè)，它們正在為消費者、廣告、教育、企業(yè)和醫(yī)療保健以及機器人技術(shù)構(gòu)建生成式AI應(yīng)用程序。
開發(fā)者渴望NVIDIA在每個云中都能獲得豐富的生態(tài)系統(tǒng)和可用性。
云服務(wù)提供商（CSPs）對NVIDIA的廣泛采用表示贊賞，并鑒于高需求，正在增加他們的NVIDIA容量。
H200增加產(chǎn)量
構(gòu)建100多個基于Blackwell的系統(tǒng)
NVIDIA H200平臺在第二季度開始增加產(chǎn)量，向大型云服務(wù)提供商、消費互聯(lián)網(wǎng)公司和企業(yè)公司發(fā)貨。
NVIDIA H200建立在我們Hopper架構(gòu)的優(yōu)勢之上，與H100相比，內(nèi)存帶寬增加了40%以上。
第二季度，我們在中國的數(shù)據(jù)中心營收環(huán)比增長，為我們的數(shù)據(jù)中心營收做出了重要貢獻；占數(shù)據(jù)中心總收入的百分比仍低于實施出口管制之前的水平，我們繼續(xù)預(yù)計中國市場未來將非常有競爭力。
最新的MLPerf推理基準(zhǔn)測試突出了NVIDIA在推理領(lǐng)域的領(lǐng)導(dǎo)地位，NVIDIA Hopper和Blackwell平臺相結(jié)合，在所有任務(wù)上都贏得了金牌。
在Computex上，NVIDIA與頂級計算機制造商一起，推出了一系列由Blackwell架構(gòu)驅(qū)動的系統(tǒng)和NVIDIA網(wǎng)絡(luò)，用于構(gòu)建AI工廠和數(shù)據(jù)中心。
通過NVIDIA MGX模塊化參考架構(gòu)，我們的OEM和ODM合作伙伴正在構(gòu)建100多個基于Blackwell的系統(tǒng)，這些系統(tǒng)設(shè)計得既快速又經(jīng)濟高效。
NVIDIA Blackwell平臺匯集了多個GPU、CPU、DPU、NVLink、Link Switch和網(wǎng)絡(luò)芯片、系統(tǒng)以及NVIDIA CUDA軟件，為下一代AI提供動力，覆蓋各種案例、行業(yè)和國家。
配備第五代NVLink的NVIDIA GB200 NVL72系統(tǒng)使所有72個GPU能夠像一個GPU一樣工作，為大型語言模型（LLM）的工作負(fù)載提供高達30倍的推理速度，并解鎖實時運行萬億參數(shù)模型的能力。
Hopper需求強勁
Blackwell正在廣泛采樣
Hopper的需求強勁，Blackwell正在廣泛采樣。
我們對Blackwell GPU質(zhì)量進行了更改，以提高產(chǎn)量。
Blackwell的生產(chǎn)預(yù)計將在第四季度開始，并持續(xù)到2026財年。在第四季度，我們預(yù)計將獲得數(shù)十億美元的Blackwell收入。
預(yù)計Hopper的出貨量將在2025財年下半年增加。Hopper的供應(yīng)和可用性已經(jīng)得到改善。
對Blackwell平臺的需求遠超過供應(yīng)，我們預(yù)計這種情況將持續(xù)到明年。
Spectrum-X即將成為
價值數(shù)十億美元的產(chǎn)品線
網(wǎng)絡(luò)業(yè)務(wù)收入環(huán)比增長了16%。
我們的AI以太網(wǎng)收入，包括我們的Spectrum-X端到端以太網(wǎng)平臺，環(huán)比翻了一番，有數(shù)百名客戶采用了我們的以太網(wǎng)產(chǎn)品。
Spectrum-X得到了OEM和ODM合作伙伴的廣泛市場支持，并正在被云服務(wù)提供商、GPU云服務(wù)提供商和企業(yè)（包括 xAI）采用，以連接世界上最大的GPU計算集群。
Spectrum-X 為以太網(wǎng)的AI處理提供了1.6倍的性能，性能是傳統(tǒng)以太網(wǎng)的1.6倍。我們計劃每年推出新的Spectrum-X產(chǎn)品，以支持從今天的數(shù)萬個GPU擴展到未來數(shù)百萬DPU的計算集群的需求。
Spectrum-X有望在一年內(nèi)開始成為一個價值數(shù)十億美元的產(chǎn)品線。
主權(quán)AI收入將達到數(shù)十億美元量級
隨著各國認(rèn)識到AI專業(yè)知識和基礎(chǔ)設(shè)施是其社會和行業(yè)的國家當(dāng)務(wù)之急，我們的主權(quán)AI機會繼續(xù)擴大。
日本國立先進工業(yè)科學(xué)技術(shù)研究所正在使用NVIDIA構(gòu)建其AI Bridging Cloud Infrastructure 3.0超級計算機。
我們相信，主權(quán)AI收入今年將達到數(shù)十億美元的低兩位數(shù)。
企業(yè)AI浪潮已經(jīng)開始
汽車與醫(yī)療行業(yè)AI應(yīng)用將規(guī)模化
企業(yè)AI浪潮已經(jīng)開始。企業(yè)也推動了本季度收入的環(huán)比增長。
我們正在與財富100強中的大多數(shù)公司合作，開展跨行業(yè)和地理區(qū)域的AI計劃。
一系列應(yīng)用正在推動我們的增長，包括AI驅(qū)動的聊天機器人、生成式AI副駕駛和代理，以構(gòu)建新的可貨幣化的商業(yè)應(yīng)用并提高員工生產(chǎn)力。
Amdocs正在使用NVIDIA的生成式AI為他們的智能代理提供支持，轉(zhuǎn)變客戶體驗并將客戶服務(wù)成本降低30%。
ServiceNow正在使用NVIDIA為其Now Assist產(chǎn)品提供支持，這是公司歷史上增長最快的新產(chǎn)品。
SAP正在使用NVIDIA構(gòu)建雙重副駕駛。
Cohesity正在使用NVIDIA構(gòu)建他們的生成式AI代理并降低生成式AI開發(fā)成本。
Snowflake每天為超過10000家企業(yè)客戶處理超過30億次查詢，正在與NVIDIA合作構(gòu)建副駕駛。
最后，他們使用NVIDIA AI Omniverse將工廠的端到端周期時間減少了50%。
汽車行業(yè)是本季度的關(guān)鍵增長驅(qū)動力，因為每家開發(fā)自動駕駛汽車技術(shù)的汽車制造商都在他們的數(shù)據(jù)中心使用NVIDIA。
汽車行業(yè)將在本地和云消費中帶來數(shù)十億美元的收入，并隨著下一代自動駕駛汽車模型需要更多的計算能力而增長。
隨著AI徹底改變醫(yī)學(xué)成像、手術(shù)機器人、病患護理、電子健康記錄處理和藥物發(fā)現(xiàn)，醫(yī)療保健也在成為數(shù)十億美元的業(yè)務(wù)。
與Meta的合作
利用Llama3.1為企業(yè)定制AI應(yīng)用
在本季度，我們宣布了一項新的NVIDIA AI代工廠服務(wù)，以利用Meta的Llama 3.1模型系列為全球企業(yè)加速生成式AI。
這標(biāo)志著企業(yè)AI的一個分水嶺時刻。
公司首次可以利用開源前沿級模型的能力，開發(fā)定制化的AI應(yīng)用程序，將他們的機構(gòu)知識編碼到AI飛輪中，以自動化和加速他們的業(yè)務(wù)。
埃森哲是首家采用這項新服務(wù)的公司，為自己和尋求部署生成式AI應(yīng)用程序的客戶構(gòu)建定制的Llama 3.1模型。
軟件、SaaS和支持收入
將達到20億美元
NVIDIA NIMs加速并簡化了模型部署。
醫(yī)療保健、能源、金融服務(wù)、零售、運輸和電信等行業(yè)的公司都在采用NIMs，包括沙特阿美、勞氏和優(yōu)步。
AT&T在采用NIMs進行生成式AI、呼叫轉(zhuǎn)錄和分類后，實現(xiàn)了70%的成本節(jié)約和8倍的延遲減少。
超過150個合作伙伴正在將NIMs嵌入到AI生態(tài)系統(tǒng)的每個層面。
我們宣布了NIM Agent Blueprint，這是一個可定制的參考應(yīng)用程序目錄，包括一整套用于構(gòu)建和部署企業(yè)生成式AI應(yīng)用程序的軟件。
通過NIM Agent Blueprint，企業(yè)可以隨著時間的推移完善他們的AI應(yīng)用程序，從而創(chuàng)建數(shù)據(jù)驅(qū)動的AI飛輪。
首批NIM Agent Blueprints包括客戶服務(wù)、計算機輔助藥物發(fā)現(xiàn)和企業(yè)檢索增強生成的工作負(fù)載。
我們的系統(tǒng)集成商、技術(shù)解決方案提供商和系統(tǒng)構(gòu)建者正在將NVIDIA NIM Agent Blueprints帶給企業(yè)。
NVIDIA NIM和NIM Agent Blueprints可通過NVIDIA AI Enterprise軟件平臺獲得，該平臺發(fā)展勢頭強勁。
我們預(yù)計我們的軟件、SaaS和支持收入在今年末將接近20億美元的年增長率，其中NVIDIA AI Enterprise顯著促進了增長。
游戲收入同比增長16%
轉(zhuǎn)向游戲和AI PC。
游戲收入達到28.8億美元，環(huán)比增長9%，同比增長16%。
我們在游戲機、筆記本電腦和臺式電腦的收入上看到了環(huán)比增長，需求強勁且不斷增長，渠道庫存保持健康。
每臺配備RTX的PC都是一臺AI電腦。RTX PC可以提供高達1300 AI tops的性能，現(xiàn)在有200多款由領(lǐng)先PC制造商設(shè)計的RTX AI筆記本電腦。
擁有600款AI驅(qū)動的應(yīng)用程序和游戲，以及1億臺設(shè)備的安裝基礎(chǔ)，RTX準(zhǔn)備用生成式AI徹底改變消費者的體驗。
NVIDIA ACE是一套生成式AI技術(shù)，適用于RTX AI PC。
Megabreak是第一款使用NVIDIA ACE的游戲，包括我們的小型語言模型，Nemotron 4B，它在設(shè)備上進行了優(yōu)化以實現(xiàn)推理。
NVIDIA游戲生態(tài)系統(tǒng)持續(xù)增長。
最近新增的RTX和DLSS游戲包括《印第安納瓊斯與大圓》、《覺醒》和《龍騰世紀(jì)：先鋒》。
GeForce NOW庫繼續(xù)擴大，總目錄超過2000款游戲，是任何云游戲服務(wù)中內(nèi)容最多的。
AI和圖形用例推動
專業(yè)可視化收入增長20%
轉(zhuǎn)向?qū)I(yè)可視化。
收入為4.54億美元，環(huán)比增長6%，同比增長20%。
需求是由AI和圖形用例推動的，包括模型微調(diào)和與Omniverse相關(guān)的工作負(fù)載。
汽車和制造業(yè)是本季度推動增長的關(guān)鍵行業(yè)垂直領(lǐng)域之一。各公司正在競相實現(xiàn)工作流程的數(shù)字化，以提高其運營效率。
世界上最大的電子制造商富士康正在使用NVIDIA Omniverse為其生產(chǎn)NVIDIA Blackwell系統(tǒng)的物理工廠創(chuàng)建數(shù)字孿生。
包括梅賽德斯-奔馳在內(nèi)的幾家大型全球企業(yè)，已與NVIDIA Omniverse Cloud簽訂了多年合同，以構(gòu)建工廠的工業(yè)數(shù)字孿生。
我們宣布了新的NVIDIA USD NIMs和連接器，將Omniverse引入新行業(yè)，并使開發(fā)者能夠?qū)⑸墒?span>AI副駕駛和代理納入USD工作負(fù)載，加速我們構(gòu)建高度精確的虛擬世界的能力。
WPP正在其為可口可樂公司等客戶啟用的生成式AI內(nèi)容創(chuàng)建流程中實施USD NIM微服務(wù)。
自動駕駛需求快速增長
轉(zhuǎn)向汽車和機器人技術(shù)。
收入為3.46億美元，環(huán)比增長5%，同比增長37%。
自動駕駛平臺的新客戶增加和對AI駕駛艙解決方案的需求增加推動了同比增長。
在計算機視覺和模式識別會議上，NVIDIA在端到端駕駛高端類別中贏得了自動駕駛品牌挑戰(zhàn)賽，表現(xiàn)優(yōu)于全球400多個參賽作品。
波士頓動力公司、比亞迪電子、Figure、Intrinsyc、西門子和Teradyne Robotics正在使用NVIDIA Isaac機器人平臺，用于自動機器人臂、仿人機器人和移動機器人。
將啟動500億美元
股票回購計劃
現(xiàn)在，轉(zhuǎn)向損益表的其他部分。
GAAP毛利率為75.1%，非GAAP毛利率為 75.7%，由于數(shù)據(jù)中心新產(chǎn)品組合的增加以及低產(chǎn)量Blackwell材料的庫存準(zhǔn)備，環(huán)比有所下降。
環(huán)比而言，GAAP和non-GAAP運營費用均增長了12%，主要反映了與薪酬相關(guān)的成本增加。
運營現(xiàn)金流為145億美元。
在第二季度，我們以股票回購和現(xiàn)金股息的形式將74億美元的現(xiàn)金用于股東回報，這反映了每位股東股息的增長。
我們董事會最近批準(zhǔn)了一項500億美元的股票回購授權(quán)，以補充我們在第二季度末剩余的75億美元授權(quán)。
Q3的增長驅(qū)動
Hopper的增長和Blackwell的采樣
讓我來談?wù)劦谌径鹊恼雇?/span>
總收入預(yù)計為325億美元，上下浮動2%。我們第三季度的收入展望包含了Hopper架構(gòu)的持續(xù)增長和Blackwell產(chǎn)品的采樣。
我們預(yù)計Blackwell的生產(chǎn)將在第四季度開始增加。
GAAP和non-GAAP毛利率預(yù)計分別為74.4%和75%，上下浮動 50個基點。
隨著我們數(shù)據(jù)中心的產(chǎn)品組合繼續(xù)向新產(chǎn)品轉(zhuǎn)變，我們預(yù)計這一趨勢將持續(xù)到2025財年第四季度。
對于整個財年，我們預(yù)計毛利率將在75%左右。
預(yù)計GAAP和non-GAAP運營費用分別約為43億美元和30億美元。隨著我們致力于開發(fā)下一代產(chǎn)品，全年運營費用預(yù)計增長將在45%-50%的范圍內(nèi)。
預(yù)計GAAP和non-GAAP其他收入和費用約為3.5億美元，包括來自非關(guān)聯(lián)投資和公開持有的股權(quán)證券的收益和損失。
預(yù)計GAAP和non-GAAP稅率為17%，上下浮動1%，不包括任何單獨項目。
更多財務(wù)細(xì)節(jié)包含在首席財務(wù)官的評論和其他信息中，這些信息可在我們的投資者關(guān)系網(wǎng)站上找到。
分析師問答
Blackwell功能維持原樣
預(yù)計四季度開始生產(chǎn)
美國銀行證券的Vivek Arya：
感謝您回答我的問題。
Jensen，您在前面的評論中提到了Blackwell GPU mask發(fā)生了變化。
我很好奇，是否有其他漸進式的后端封裝變化或其他什么變化？
我認(rèn)為與此相關(guān)，您建議盡管設(shè)計發(fā)生了變化，您仍然可以在第四季度出貨數(shù)十億美元的Blackwell。這是因為到那時所有這些問題都將得到解決嗎？
請幫助我們評估Blackwell時間表變化的總體影響，這對您的收入概況意味著什么，以及客戶對此有何反應(yīng)。
Jensen Huang -- 總裁兼首席執(zhí)行官
Mask的變更已經(jīng)完成。無需進行功能更改。
因此，我們現(xiàn)在正在對Blackwell、Grace Blackwell以及各種系統(tǒng)配置進行功能性抽樣。
在Computex上展示了大約100種不同類型的基于Blackwell的系統(tǒng)，我們正在讓我們的生態(tài)系統(tǒng)開始對這些系統(tǒng)進行采樣。
Blackwell的功能是原來的樣子，我們預(yù)計在第四季度開始生產(chǎn)。
更多前沿模型在更多模態(tài)上訓(xùn)練
AI推薦和廣告優(yōu)化的規(guī)模巨大
Goldman Sachs的Toshiya Hari：
非常感謝您回答這個問題。
Jensen，我有一個相對長期的問題。
您可能知道，市場上關(guān)于您的客戶和客戶的客戶的投資回報率以及這對未來資本支出的可持續(xù)性意味著什么，存在著相當(dāng)激烈的爭論。
在NVIDIA內(nèi)部，你們在關(guān)注什么？當(dāng)您嘗試衡量客戶回報時，在你們的儀表板上有什么，以及這對資本支出有何影響？
然后，對Colette的快速跟進問題。我認(rèn)為你們?nèi)甑闹鳈?quán)AI數(shù)字可能增加了幾十億。是什么推動了前景的改善，我們應(yīng)該如何看待26財年？謝謝。
Jensen Huang -- 總裁兼首席執(zhí)行官
首先，當(dāng)我說第四季度開始生產(chǎn)出貨時，我的意思是發(fā)貨，而不是開始發(fā)貨，我的意思是——我不是指開始生產(chǎn)，而是指發(fā)貨。
關(guān)于長期問題，讓我們退一步說。
你們可能聽我說過，我們正在同時經(jīng)歷兩個平臺轉(zhuǎn)型。
第一個是從通用計算向加速計算過渡。
原因之一是CPU的擴展速度已經(jīng)眾所周知地放緩了一段時間，而且已經(jīng)慢到了幾乎停滯的地步。
然而，計算需求的增長仍然非常顯著。您甚至可以估計它每年都會翻一番。
因此，如果我們沒有新的方法，計算通脹將推高每家公司的成本，并將推高全球數(shù)據(jù)中心的能源消耗。
實際上，你已經(jīng)看到了這一點。答案是加速計算。我們知道加速計算可以加快應(yīng)用程序的運行速度。
它還使您能夠進行更大規(guī)模的計算，例如科學(xué)模擬或數(shù)據(jù)庫處理，但這直接轉(zhuǎn)化為的是降低成本和減少能源消耗。
事實上，本周有一篇博客發(fā)表，談到了我們提供的一大堆新庫。
這確實是第一個平臺轉(zhuǎn)型的核心，即從通用計算轉(zhuǎn)向加速計算。看到有人節(jié)省了90%的計算成本并不罕見。
原因當(dāng)然是，你剛剛將一個應(yīng)用程序的速度提高了50倍。你預(yù)計計算成本會顯著下降。
第二個是由加速計算實現(xiàn)的。
因為我們大大降低了訓(xùn)練大型語言模型或深度學(xué)習(xí)的成本，以至于現(xiàn)在有可能擁有極其大規(guī)模的模型，數(shù)萬億個參數(shù)的模型并對其進行訓(xùn)練——在幾乎全世界的知識語料庫上對其進行預(yù)訓(xùn)練，讓模型自己去弄清楚如何理解人類語言表示，如何將知識編碼到其神經(jīng)網(wǎng)絡(luò)中，以及如何學(xué)習(xí)推理，從而引發(fā)了生成式AI革命。
現(xiàn)在，生成式AI，退一步說，我們之所以如此深入地研究它，是因為它不僅僅是一個特性，也不僅僅是一種能力。
這是一種全新的軟件開發(fā)方式。
我們現(xiàn)在擁有的數(shù)據(jù)，而不是人工設(shè)計的算法。
我們告訴 AI，我們告訴模型，我們告訴計算機預(yù)期的答案是什么。我們之前的觀察結(jié)果是什么？然后讓它弄清楚算法是什么，函數(shù)是什么。
它學(xué)習(xí)了一個通用的——AI有點類似于通用函數(shù)逼近器，它學(xué)習(xí)這個函數(shù)。
因此，您幾乎可以學(xué)習(xí)任何事物的功能。任何你擁有的可預(yù)測的東西，任何有結(jié)構(gòu)的東西，任何你有先前例子的事物。
所以，現(xiàn)在我們有了生成式AI。這是計算機科學(xué)的一種根本新形式。
它影響著從CPU到GPU、從人工設(shè)計算法到機器學(xué)習(xí)算法的每一層計算方式，您現(xiàn)在可以開發(fā)和生產(chǎn)的應(yīng)用程序類型從根本上說是非凡的
在生成式AI中，有幾件事情正在發(fā)生。
所以，第一件事是前沿模型正在相當(dāng)大規(guī)模地增長。
他們?nèi)匀辉诳吹健覀兯腥硕荚诳吹揭?guī)模化的好處。
每當(dāng)你將模型的大小翻倍時，你也必須將訓(xùn)練數(shù)據(jù)集的大小增加一倍多。
因此，為了創(chuàng)建那個模型所需的浮點運算次數(shù)會呈二次方增加。
所以，看到下一代模型可能需要比上一代多10倍、20倍、40倍的計算能力并不意外。
因此，我們必須繼續(xù)顯著提高代際性能，這樣我們才能降低能源消耗，降低執(zhí)行所需的成本。
所以，第一點是，有更多的前沿模型在更多模態(tài)上進行訓(xùn)練。
令人驚訝的是，與去年相比，前沿模型制造商更多，你看到的越來越多。這是生成式 AI 中正在發(fā)生的動態(tài)之一。
第二點是，盡管它在冰山一角之下，我們看到的是ChatGPT圖像生成器。我們看到了編程。
我們現(xiàn)在在NVIDIA廣泛使用生成式AI進行編程。我們當(dāng)然有很多數(shù)字設(shè)計師之類的人才。但這些都是冰山一角。
冰山之下的是當(dāng)今世界上最大的系統(tǒng)，最大的計算系統(tǒng)，也就是我之前提到過的，推薦系統(tǒng)正從CPU轉(zhuǎn)移到生成式AI。
所以，推薦系統(tǒng)、廣告生成、針對大規(guī)模和非常精準(zhǔn)的目標(biāo)廣告生成、搜索和用戶生成內(nèi)容，這些現(xiàn)在都已經(jīng)演變成了生成式AI的大規(guī)模應(yīng)用。
當(dāng)然，生成式AI初創(chuàng)公司為我們的云合作伙伴創(chuàng)造了數(shù)十億美元的云租賃機會。
而主權(quán)AI，一些國家現(xiàn)在意識到他們的數(shù)據(jù)是他們的自然和國家資源，他們必須使用AI，建立自己的AI基礎(chǔ)設(shè)施，以便他們能夠擁有自己的數(shù)字智能。
正如Colette之前提到的，企業(yè)AI已經(jīng)開始了，你可能已經(jīng)看到了我們的公告，世界領(lǐng)先的IT公司將加入我們，將NVIDIA AI Enterprise平臺引入全球企業(yè)。
我們正在交談的公司中，很多公司都非常興奮，希望通過提高生產(chǎn)力來推動公司發(fā)展。
然后就是通用機器人技術(shù)。
去年的重大轉(zhuǎn)變是，我們現(xiàn)在能夠通過觀看視頻、人類演示和從Omniverse這樣的系統(tǒng)中通過強化學(xué)習(xí)生成合成數(shù)據(jù)來學(xué)習(xí)物理AI，我們現(xiàn)在能夠與幾乎所有的機器人公司合作，開始考慮、開始構(gòu)建通用機器人。
因此，你可以看到，生成式AI正朝著如此多的不同方向發(fā)展。我們實際上看到生成式AI的勢頭正在加速。
Colette M. Kress -- 首席財務(wù)官兼執(zhí)行副總裁
至于Toshiya，回答你關(guān)于主權(quán)AI以及我們在增長和收入方面的目標(biāo)的問題。
這確實是一個獨特且不斷增長的機會，這是隨著生成式AI的出現(xiàn)以及世界各國希望擁有自己的生成式AI而浮現(xiàn)出來的，這樣的AI能夠結(jié)合他們自己的語言、文化和那個國家的數(shù)據(jù)。
因此，人們越來越興奮地圍繞這些模型以及它們可以為這些國家提供哪些具體內(nèi)容。
所以，是的，我們看到了一些增長機會擺在我們面前。
Hopper幫助1萬億美元
現(xiàn)有安裝基礎(chǔ)設(shè)施過渡到現(xiàn)代化設(shè)施
Morgan Stanley的Joe Moore
Jensen，在新聞稿中，你談到了對Blackwell的期待是令人難以置信的。但看起來Hopper的需求也非常強勁。
我的意思是，即使在沒有Blackwell的10月份，你也預(yù)計會有一個非常強勁的季度。
那么，你認(rèn)為這兩種需求會共存多久？你能談?wù)勏?span>Blackwell過渡的情況嗎？你看到人們在集群中混合使用嗎？你認(rèn)為大多數(shù)Blackwell活動是新建集群嗎？
請給出一些關(guān)于這種過渡是什么樣子的分享。
Jensen Huang -- 總裁兼首席執(zhí)行官
是的，謝謝，Joe。對Hopper的需求確實非常強勁。而且確實，對Blackwell的需求是令人難以置信的。
這有幾個原因。
第一個原因是，如果你看一下全球的云服務(wù)提供商，他們可用的GPU容量基本上為零。
原因之一是它們要么被內(nèi)部部署以加速他們自己的工作負(fù)載，例如數(shù)據(jù)處理。
我們很少談?wù)摂?shù)據(jù)處理，因為它很平凡。它不是很酷，因為它不會產(chǎn)生圖片或文字。但世界上幾乎每家公司都在后臺處理數(shù)據(jù)。
而NVIDIA的GPU是地球上唯一能夠處理和加速數(shù)據(jù)的加速器：SQL數(shù)據(jù)，Panda的數(shù)據(jù)，像Panda這樣的數(shù)據(jù)科學(xué)工具包，以及新的Polar數(shù)據(jù)。
這些是世界上最流行的數(shù)據(jù)處理平臺。
而且除了CPU，正如我之前提到的，它們真的已經(jīng)力不從心了，NVIDIA的加速計算是真正能夠提升性能的唯一方式。
因此，首要的——長期以來的第一用例是在生成式AI出現(xiàn)之前的應(yīng)用程序遷移到加速計算。
第二當(dāng)然是租賃。
他們向模型制造商出租容量。他們向初創(chuàng)公司出租。
一家生成式AI公司將其大部分投資資本投入到基礎(chǔ)設(shè)施中，以便他們可以使用AI幫助他們創(chuàng)造產(chǎn)品。
所以，這些公司現(xiàn)在就需要它。他們就是負(fù)擔(dān)不起——你剛剛籌集了資金。他們希望你現(xiàn)在就投入使用。
你必須要進行處理。你不能明年再做，你今天就必須做。
所以，這是Hopper需求旺盛的一個原因。
當(dāng)前Hopper需求的第二個原因是因為競爭下一個高地。
第一個到達下一個高地的人將能夠引入革命性的AI水平。
第二個到達那里的人可能會更好，或者差不多。
因此，能夠系統(tǒng)地、持續(xù)地競爭下一個高地，并成為第一個到達那里的人，這就是你如何確立領(lǐng)導(dǎo)地位。
NVIDIA一直在這樣做，我們向世界展示這一點，我們制造的GPU、我們制造的AI工廠、我們制造的網(wǎng)絡(luò)系統(tǒng)、我們創(chuàng)造的SoC。
我的意思是，我們想要引領(lǐng)潮流。我們希望始終是世界上最好的。這就是為什么我們?nèi)绱伺Φ赝苿幼约旱脑颉?/span>
當(dāng)然，我們也希望看到我們的夢想成真，我們想象中的所有能力，以及我們能帶給社會的好處，我們希望看到所有這些都成真。
所以，這些模型制造商也是一樣的。他們希望成為世界上最好的。他們希望成為世界上第一。
盡管Blackwell將在今年年底開始以數(shù)十億美元的價格發(fā)貨，但產(chǎn)能的建立可能還需要幾周甚至一個月左右的時間。
因此，從現(xiàn)在到那時，有很多生成式AI市場動態(tài)。每個人都很著急。他們需要它要么是運營原因。他們需要加速計算。他們不想再構(gòu)建任何通用計算基礎(chǔ)設(shè)施，甚至是Hopper。
當(dāng)然，H200是最先進的。Hopper，如果你現(xiàn)在要在為企業(yè)構(gòu)建CPU基礎(chǔ)設(shè)施和Hopper基礎(chǔ)設(shè)施之間做出選擇，這個決定相對明確。
所以，我認(rèn)為人們都在爭相將1萬億美元的現(xiàn)有安裝基礎(chǔ)設(shè)施過渡到現(xiàn)代化的基礎(chǔ)設(shè)施，而Hopper是最先進的。
科技巨頭資本支出的三重回報
降低成本、改善現(xiàn)有業(yè)務(wù)、大模型租賃
TD Cowen的Matt Ramsay
Jensen，我想回到之前關(guān)于投資者對所有這些資本支出回報率（ROI）的辯論的問題上。希望這個問題和區(qū)分會有意義。
但我討論的是，在你看來，有一部分人正在花費所有這些資金，試圖將前沿模型推向通用人工智能（AGI）的融合，正如你剛才所說，達到一個新的能力高峰，他們將不惜一切代價達到那種能力水平，因為它為行業(yè)和他們的公司打開了如此多的大門，而不是那些客戶今天真的非常非常關(guān)注資本支出與ROI。
我不知道這種區(qū)分是否有意義。我只是想了解一下，你如何看待那些在這項新技術(shù)上投入資金的人的優(yōu)先事項，以及他們的優(yōu)先事項和投資的時間框架是什么。謝謝。
Jensen Huang -- 總裁兼首席執(zhí)行官
那些投資NVIDIA基礎(chǔ)設(shè)施的人立即就能獲得回報。這是你今天可以做的最好的ROI基礎(chǔ)設(shè)施，計算基礎(chǔ)設(shè)施投資。
所以，思考這個問題的一種方式，可能最簡單最直接的方式就是回到第一性原理。
你擁有價值1萬億美元的通用計算基礎(chǔ)設(shè)施。問題是，你還想建造更多這樣的設(shè)施嗎？
對于你建立的每一個價值10億美元的基于Juniper CPU的基礎(chǔ)設(shè)施，你可能以不到10億美元的價格出租。由于它已經(jīng)商品化，地面上已經(jīng)有1萬億美元。再獲得更多有什么意義呢？
所以，那些爭相獲得這種基礎(chǔ)設(shè)施的人，首先，當(dāng)他們建立基于Hopper的基礎(chǔ)設(shè)施，很快，基于Blackwell的基礎(chǔ)設(shè)施時，他們開始省錢。這是巨大的投資回報。
他們開始省錢的原因是數(shù)據(jù)處理能夠節(jié)省資金，而數(shù)據(jù)處理可能已經(jīng)是其中很大一部分了。因此，推薦系統(tǒng)可以省錢，等等，對吧？所以，你開始省錢。
第二，你建立的一切都將被租賃。
因為有這么多公司成立來創(chuàng)建生成式AI，所以，你的容量會立即被租賃，這種投資的回報非常好。
第三是你的自身業(yè)務(wù)。
您是想自己創(chuàng)造下一個前沿領(lǐng)域，還是想從下一代廣告系統(tǒng)、下一代推薦系統(tǒng)或下一代搜索系統(tǒng)中受益的互聯(lián)網(wǎng)服務(wù)？所以，對于你自己的服務(wù)，你自己的商店，你自己的用戶生成內(nèi)容，社交媒體平臺，生成式AI也是一種快速的投資回報。所以，你可以通過很多方式來思考這個問題。
但從本質(zhì)上講，這是因為它是您今天可以投入的最好的計算基礎(chǔ)設(shè)施。
通用計算領(lǐng)域正在轉(zhuǎn)向加速計算。人工工程軟件的世界正在轉(zhuǎn)向生成式AI軟件。如果你要建立基礎(chǔ)設(shè)施來現(xiàn)代化你的云和數(shù)據(jù)中心，用加速計算的NVIDIA來構(gòu)建它。
這是最好的方法。
價值1萬億美元的數(shù)據(jù)中心
幾年內(nèi)將轉(zhuǎn)向加速計算
UBS的Timothy Arcuri
非常感謝。我有一個關(guān)于收入增長形態(tài)的問題，包括近期和長期。
我知道，Colette，您今年的運營支出確實增加了。如果我看一下你的采購承諾和供應(yīng)義務(wù)的增加，這也是相當(dāng)樂觀的。
另一方面，有一種觀點認(rèn)為，并沒有那么多客戶真正準(zhǔn)備好使用液冷，我確實認(rèn)識到，其中一些機架可以采用空氣冷卻。
但是，Jensen，這是在考慮Blackwell增長形態(tài)時需要考慮的事情嗎？
然后，我想當(dāng)你看明年以后，顯然將是偉大的一年，你看到2026年，你會擔(dān)心其他任何限制因素，比如電源供應(yīng)鏈，或者在某個時候，模型開始變小嗎？我只是想知道你是否能就此發(fā)表意見。謝謝。
Jensen Huang -- 總裁兼首席執(zhí)行官
我會倒過來回答。我真的很感謝你的問題，Tim。
請記住，世界正從通用計算轉(zhuǎn)向加速計算。
全球建造了價值約1萬億美元的數(shù)據(jù)中心。在幾年內(nèi)，價值1萬億美元的數(shù)據(jù)中心將全部是加速計算。
過去，數(shù)據(jù)中心里沒有GPU，只有CPU。將來，每個數(shù)據(jù)中心都會有GPU。
原因非常明確：因為我們需要加速工作負(fù)載，以便我們能夠繼續(xù)保持可持續(xù)性，繼續(xù)降低計算成本，這樣當(dāng)我們進行更多的計算時，我們不會經(jīng)歷計算通脹。
其次，我們需要GPU來開發(fā)一種稱為生成式AI的新計算模型，我們都承認(rèn)，這種模型將對計算的未來產(chǎn)生重大變革。
所以，我認(rèn)為倒過來想，世界下一個1萬億美元的基礎(chǔ)設(shè)施將明顯不同于上一個1萬億美元，它將大大加速。
關(guān)于我們增長形態(tài)的問題，我們提供多種配置的Blackwell。
Blackwell有Blackwell經(jīng)典版，如果你愿意，它使用我們與Volta一起首創(chuàng)的HGX外形尺寸。
我想是Volta。所以，我們已經(jīng)推出HGX外形規(guī)格有一段時間了。它是空氣冷卻的。而Grace Blackwell是液冷的。
然而，想要采用液冷的數(shù)據(jù)中心數(shù)量相當(dāng)可觀。原因是因為在液冷數(shù)據(jù)中心，任何數(shù)據(jù)中心——無論是電源受限的數(shù)據(jù)中心，還是你選擇的任何規(guī)模的數(shù)據(jù)中心，你都可以安裝和部署比過去多三到五倍的AI吞吐量。
所以，液冷更便宜。液冷，我們的總體擁有成本（TCO）更好，液體冷卻讓您能夠享受我們稱為 NVLink 的這項功能，它允許我們能夠?qū)⑵鋽U展到72個Grace Blackwell軟件包，這基本上有144個GPU。
因此，想象一下在NVLink中連接了144個GPU。我們正越來越多地向你展示這一點的好處。
接下來的顯然是非常低的延遲，非常高吞吐量的大語言模型推理，而大的NVLink領(lǐng)域?qū)⑹沁@方面的游戲規(guī)則改變者。
所以，我認(rèn)為人們非常愿意同時部署兩者。我們合作的幾乎每個云服務(wù)提供商（CSP）都在部署這兩種類型的設(shè)施。
所以，我非常有信心我們會把它做得更好。
你的第二個問題是關(guān)于未來展望，是的，明年將是偉大的一年。我們預(yù)計明年數(shù)據(jù)中心業(yè)務(wù)將顯著增長。
Blackwell將徹底改變整個行業(yè)。Blackwell將繼續(xù)影響接下來的一年。
正如我前面提到的，從第一性原理倒推，記住計算正在同時經(jīng)歷兩個平臺轉(zhuǎn)型。
這真的非常重要，需要你保持關(guān)注，即通用計算正在轉(zhuǎn)向加速計算，人工工程軟件將轉(zhuǎn)向生成式AI或人工智能學(xué)習(xí)軟件。
Hopper和Blackwell
是下半年增長的重要動力
Bernstein Research的Stacy Rasgon
感謝您回答我的問題。所以，我有兩小個問題要問Colette。
第一個問題是關(guān)于第四季度Blackwell收入的幾十億美元，那是額外的嗎？你說過預(yù)計Hopper在下半年的需求會走強。
這意味著Hopper在第三季度到第四季度也會在Blackwell增加幾十億美元的基礎(chǔ)上走強嗎？
第二個問題是關(guān)于毛利率的。如果我今年的目標(biāo)是75%左右，那么我可能會在第四季度達到71%到72%左右，這是你預(yù)期的毛利率退出率嗎？
隨著 Blackwell 的加速增長，我們應(yīng)該如何看待明年毛利率演變的驅(qū)動因素？我的意思是，希望產(chǎn)量和庫存準(zhǔn)備金等一切都能提高。
Colette M. Kress -- 首席財務(wù)官兼執(zhí)行副總裁
Stacy，我們首先來回答你關(guān)于Hopper和Blackwell的問題。
我們相信我們的Hopper在下半年將繼續(xù)增長。
我們?yōu)?span>Hopper準(zhǔn)備了許多新產(chǎn)品，我們認(rèn)為這些新產(chǎn)品，包括我們現(xiàn)有的Hopper產(chǎn)品，將開始在接下來的幾個季度繼續(xù)增長，包括我們的第三季度和那些進入第四季度的新產(chǎn)品。
比如說，Hopper在第三季度與上半年相比是一個增長機會。
此外，我們還有Blackwell，Blackwell從第四季度開始增長。
我希望這對你提到的這兩個方面有幫助。
你的第二個問題是關(guān)于我們的毛利率。
我們?yōu)槲覀兊牡谌径忍峁┝嗣省Ｎ覀冊诜?span>GAAP上提供了大約75%的毛利率。
我們將處理我們正在經(jīng)歷的所有不同過渡，但我們確實相信我們能在第三季度達到75%。
我們還提供了我們?nèi)暌苍?span>75%左右的中高水平的毛利率。所以，我們將在第四季度看到一些可能的輕微差異，這再次與我們的轉(zhuǎn)型和我們新產(chǎn)品引入的不同成本結(jié)構(gòu)有關(guān)。
然而，我并不完全同意你的數(shù)字。我們沒有確切的指導(dǎo)，但我確實認(rèn)為你比我們預(yù)期的要低。
亞太區(qū)的增長驅(qū)動
來自系統(tǒng)集成商
Melius的Ben Reitzes
非常感謝你的問題。我想問有關(guān)地域分布的問題。10-Q數(shù)據(jù)發(fā)布后，美國的銷售額環(huán)比下降，而幾個亞洲地區(qū)的銷售額環(huán)比大幅上升。
只是想知道那里的動態(tài)是怎樣的。顯然，中國表現(xiàn)非常好。您在發(fā)言中提到了這一點。什么是Puts和Takes？
然后我只想從Stacy的問題中澄清一下，這是否意味著公司第四季度的整體收入增長率會加快，考慮到所有這些有利的收入動態(tài)。
Colette M. Kress -- 首席財務(wù)官兼執(zhí)行副總裁
讓我來談?wù)勎覀?span>10-Q報告中關(guān)于地域分布的披露，這是一項必須的披露選擇。
有時候要做出正確的披露非常具有挑戰(zhàn)性，因為我們必須找出一個關(guān)鍵點。我們銷售和/或具體開票對象的方面，所以你看到的是我們開票給誰。
這并不一定是產(chǎn)品最終所在的地方，也不一定是產(chǎn)品最終到達最終客戶的地方。這些主要是轉(zhuǎn)移到我們的OEM或ODM以及我們的產(chǎn)品組合中的系統(tǒng)集成商。
所以你看到的有時只是他們在使用誰來完成完整配置的快速轉(zhuǎn)變，然后這些產(chǎn)品才會進入數(shù)據(jù)中心，進入筆記本電腦等。這種轉(zhuǎn)變時不時會發(fā)生。
但確實，我們的中國號碼是向中國開具發(fā)票的。請記住，這些數(shù)字包括了游戲、數(shù)據(jù)中心和汽車等領(lǐng)域。
回到你關(guān)于毛利率的聲明，以及我們對Hopper和Blackwell在收入方面的預(yù)期。Hopper在下半年將繼續(xù)增長。我們將繼續(xù)從目前所看到的開始增長。
我們無法確定每個第三季度和第四季度的確切組合。我們還不是在這里指導(dǎo)第四季度。
但我們確實看到了需求預(yù)期。我們確實看到了這將是第四季度增長機會的可見性。
最重要的是，我們還將擁有我們的Blackwell架構(gòu)。
年度產(chǎn)品節(jié)奏的原因
支持模型擴大規(guī)模和提升復(fù)雜性
Cantor Fitzgerald的C.J. Muse
感謝您回答這個問題。您已經(jīng)開始了非凡的年度產(chǎn)品節(jié)奏，鑒于在相當(dāng)有限的先進封裝世界中的復(fù)雜性不斷增加，挑戰(zhàn)可能會越來越多。
那么，如果您退后一步，這種背景將如何改變您對潛在更大垂直整合、供應(yīng)鏈合作伙伴關(guān)系的看法，然后對您的利潤率狀況產(chǎn)生間接影響？謝謝。
Jensen Huang -- 總裁兼首席執(zhí)行官
我認(rèn)為對你第一個問題的回答是，我們的速度之所以如此之高，是因為模型的復(fù)雜性在增長，同時我們希望繼續(xù)降低其成本。
它在增長，所以我們想繼續(xù)擴大它的規(guī)模。我們相信，通過繼續(xù)擴大AI模型的規(guī)模，我們將達到非凡的有用水平，并且它將開啟、實現(xiàn)下一次工業(yè)革命。
我們相信這一點。所以，我們將非常努力地推動自己繼續(xù)提高這一規(guī)模。
我們有能力，相當(dāng)獨特地進行整合，設(shè)計一個AI工廠，因為我們擁有所有部件。除非你擁有所有部件，否則不可能每年都推出一個新的AI工廠。
所以，我們明年將運送比我們公司歷史上任何時候都要多的CPU，當(dāng)然還有更多的GPU，還有NVLink交換機，CX DPU，用于東西向的ConnectX，用于南北向的BlueField DPU，以及用于超級計算中心的InfiniBand，用于以太網(wǎng)的以太網(wǎng)。
這是我們的一個全新產(chǎn)品，它正迅速成為一個價值數(shù)十億美元的業(yè)務(wù)，將AI帶入以太網(wǎng)。因此，我們能夠構(gòu)建——我們能夠接觸到所有這些，我們擁有一個架構(gòu)棧，正如你所知，它允許我們在完成它時向市場推出新功能。
否則，會發(fā)生什么，你運送這些部件，你去找客戶銷售，然后你得建造——有人得建造一個AI工廠，而AI工廠有一大堆軟件。所以，這不僅僅是誰進行整合的問題。
我們很高興我們的供應(yīng)鏈在某種程度上是分散的，因為我們能夠服務(wù)Quanta、富士康、HP、Dell、Lenovo、Super Micro。
我們曾經(jīng)能夠為中興通訊服務(wù)。他們最近被收購等等。
我們擁有的生態(tài)系統(tǒng)合作伙伴數(shù)量，允許他們采取我們的架構(gòu)，所有這些都有效；但是以定制的方式整合到世界上所有的云服務(wù)提供商、企業(yè)數(shù)據(jù)中心中。
我們的ODM和我們的集成商、集成供應(yīng)鏈所需的規(guī)模和覆蓋范圍是巨大和龐大的，因為世界是巨大的。所以，這部分我們不想做，也不擅長做。
但我們懂得如何設(shè)計AI基礎(chǔ)設(shè)施，按照客戶喜歡的方式，并讓生態(tài)系統(tǒng)整合它。
Blackwell機架始終
與全球合作伙伴網(wǎng)絡(luò)合作
Wells Fargo的Aaron Rakers
感謝您接受我的問題。我想回到Blackwell產(chǎn)品周期的話題。
我們經(jīng)常被問到的一個問題是，您如何看待機架級系統(tǒng)組合動態(tài)，當(dāng)您考慮利用NVLink，您考慮GB NVL72時，以及這種市場推廣動態(tài)在Blackwell產(chǎn)品周期中的表現(xiàn)如何。
我想簡單地說，您如何看待在我們開始考慮Blackwell周期時，機架級系統(tǒng)的組合？
Jensen Huang -- 總裁兼首席執(zhí)行官
Blackwell機架系統(tǒng)，它是作為機架設(shè)計和架構(gòu)的，但它是以分散的系統(tǒng)組件出售的。我們不出售整個機架。
原因是因為每個人的機架都略有不同，這可能會讓人驚訝。有些是OCP標(biāo)準(zhǔn)，有些不是。有些是企業(yè)的。每個人的功率限制可能都略有不同。
CDU的選擇，電源匯流條的選擇，配置和集成到人們的數(shù)據(jù)中心，都不同。所以我們設(shè)計的方式，我們架構(gòu)了整個機架。軟件將在整個機架上完美工作。然后我們提供系統(tǒng)組件。
比如，CPU和GPU計算板然后集成到MGX中。它是一個模塊化系統(tǒng)架構(gòu)。MGX非常巧妙。我們在整個工廠都有MGX ODM和集成商和OEM。
所以，幾乎任何你想要的配置，你希望那個3000磅的機架被送到哪里，它必須接近。它必須在數(shù)據(jù)中心附近集成和組裝，因為它相當(dāng)重。
所以從我們運送GPU、CPU、交換機、網(wǎng)卡的那一刻起，供應(yīng)鏈的一切都在CSP的位置和數(shù)據(jù)中心的位置附近完成集成。
所以，你可以想象世界上有多少數(shù)據(jù)中心，我們已經(jīng)與我們的ODM合作伙伴擴展了多少物流中心。
我認(rèn)為因為我們把它展示為一個機架，而且它總是以這種方式呈現(xiàn)和顯示，我們可能給人留下了我們正在做集成的印象。
我們的客戶討厭我們做集成。供應(yīng)鏈討厭我們做集成。他們想要做集成。這就是他們的附加值。
有一個最終的設(shè)計適配，如果你愿意的話。它并不像滑進數(shù)據(jù)中心那么簡單，但設(shè)計適配真的非常復(fù)雜。所以，設(shè)計適配、安裝、啟動、維修和更換，整個周期都在世界各地完成。
我們有一個龐大的ODM和OEM合作伙伴網(wǎng)絡(luò)，他們在這方面做得非常好。
所以，集成不是我們做機架的原因。它是我們不做機架的反理由。
我們不想成為一個集成商，我們想成為一個技術(shù)提供商。
CEO總結(jié)：驅(qū)動英偉達增長的五種力量
Jensen Huang -- 總裁兼首席執(zhí)行官
讓我再做一些補充——再重復(fù)一下我之前做的一些評論。
全球數(shù)據(jù)中心正在全力推進使用加速計算和生成式AI現(xiàn)代化整個計算棧。
Hopper的需求依然強勁，對Blackwell的期待令人難以置信。
讓我強調(diào)我們公司的五件大事，五件最重要的事情。
加速計算已經(jīng)達到了臨界點。CPU的擴展速度正在放緩。開發(fā)者必須加速一切可能的事項。
加速計算始于CUDA-X庫。新庫為NVIDIA開辟了新市場。
我們發(fā)布了許多新庫，包括CUDA-X加速的Polars、Pandas和Spark，這些是領(lǐng)先的數(shù)據(jù)科學(xué)和數(shù)據(jù)處理庫，CUVI-S用于向量數(shù)據(jù)庫。現(xiàn)在非常熱門。
對于5G無線基站，我們現(xiàn)在可以進入一整套數(shù)據(jù)中心的世界。
用于基因測序的Parabricks和用于蛋白質(zhì)結(jié)構(gòu)預(yù)測的AlphaFold2現(xiàn)在已經(jīng)是CUDA加速的。
我們正處于將價值1萬億美元的數(shù)據(jù)中心從通用計算現(xiàn)代化到加速計算的旅程的開始。這是第一點。
第二，Blackwell是Hopper的階梯式飛躍。
Blackwell是一個AI基礎(chǔ)設(shè)施平臺，而不僅僅是GPU。它恰好也是我們GPU的名字，但它是一個AI基礎(chǔ)設(shè)施平臺。
隨著我們向合作伙伴和客戶展示更多Blackwell的信息并對系統(tǒng)進行采樣，Blackwell領(lǐng)先的程度變得清晰。
Blackwell的愿景花了將近五年時間和七種獨一無二的芯片來實現(xiàn)，Gray CPU，Blackwell雙GPU，以及一個龐大的軟件包，ConnectX DPU用于東西向流量，BlueField DPU用于南北向和存儲流量，NVLink交換機用于所有GPU之間的通信，以及Quantum和Spectrum-X用于支持AI巨大流量的InfiniBand和以太網(wǎng)。
Blackwell AI工廠是建筑大小的計算機。NVIDIA設(shè)計并優(yōu)化了Blackwell平臺，從芯片、系統(tǒng)、網(wǎng)絡(luò)，甚至是結(jié)構(gòu)化電纜、電源和冷卻，以及大量軟件，以快速為客戶構(gòu)建AI工廠。這些都是非常資本密集型的基礎(chǔ)設(shè)施。
客戶希望盡快部署設(shè)備并提供最佳性能和總體擁有成本（TCO）。Blackwell在功率受限的數(shù)據(jù)中心中提供的AI吞吐量是Hopper的三到五倍。
第三是NVLink。
這是一個非常大的交易，它的全對全GPU交換機是改變游戲規(guī)則的。
Blackwell系統(tǒng)允許我們將72 GB200封裝中的144個GPU連接到一個NVLink域中，在一個機架中聚合NVLink帶寬達到259太字節(jié)每秒。
從這個角度來看，這大約是Hopper的10倍。每秒259TB是有意義的，因為你需要在數(shù)萬億個token上提升數(shù)萬億參數(shù)模型的訓(xùn)練。因此，自然需要在GPU之間移動大量數(shù)據(jù)。
對于推理，NVLink對于低延遲、高吞吐量的大語言模型token生成至關(guān)重要。
我們現(xiàn)在有三個網(wǎng)絡(luò)平臺，NVLink用于GPU擴展，Quantum InfiniBand用于超級計算和專用AI工廠，以及Spectrum-X用于以太網(wǎng)上的AI。
NVIDIA的網(wǎng)絡(luò)覆蓋范圍比以前大得多。
生成式AI的勢頭正在加速。
生成式AI前沿模型制造商正在競相擴展到下一個AI高地，以提高模型的安全性和智商。
我們還在擴展，以理解更多模態(tài)，從文本、圖像和視頻到3D物理、化學(xué)和生物學(xué)。
聊天機器人、編程AI和圖像生成器正在迅速增長，但這僅僅是冰山一角。
互聯(lián)網(wǎng)服務(wù)正在為大規(guī)模推薦系統(tǒng)、廣告定位和搜索系統(tǒng)部署生成式AI。
AI初創(chuàng)公司每年消耗數(shù)十億美元的CSP云容量，各國正在認(rèn)識到AI的重要性，并投資于主權(quán)AI基礎(chǔ)設(shè)施。
NVIDIA AI、NVIDIA Omniverse正在開啟AI的下一個時代，通用機器人技術(shù)。
現(xiàn)在，企業(yè)AI浪潮已經(jīng)開始，我們準(zhǔn)備幫助公司轉(zhuǎn)型他們的業(yè)務(wù)。
NVIDIA AI企業(yè)平臺包括Nemo、NIMs、NIM Agent Blueprints和AI Foundry，我們的生態(tài)系統(tǒng)合作伙伴，世界領(lǐng)先的IT公司用來幫助公司定制AI模型和構(gòu)建定制的AI應(yīng)用程序。
企業(yè)隨后可以在NVIDIA AI企業(yè)運行時部署，每年每個GPU的成本為4,500美元，NVIDIA AI Enterprise是在任何地方部署AI的超值選擇。
對于NVIDIA軟件，隨著與CUDA兼容的GPU安裝基數(shù)從數(shù)百萬增長到數(shù)千萬臺，TAM可能會非常顯著。
正如Colette所提到的，NVIDIA軟件將在今年以20億美元的運行速度結(jié)束。
感謝大家今天參加我們的活動。
摘自-王錚Silvia
| 上一篇 | 下一篇 |
|---|---|
| 彼得·蒂爾的世界觀 | 沒有上一篇 |
