GPU龍頭 NVIDIA今（24）日清晨公布財報，營收為135.1億美元，創歷史新高紀錄，高於市場預期的112億美元，季增88%，年增101%。 第二季度業績輕鬆超過預期，表明 AI 趨勢將繼續保持。

資料中心業務受惠於發展LLM 與生成式AI

Datacenter 運算成長季增157%，年增195%，反應以Hooper為架構的HGX平台推廣成果(Amazon Web Services、Microsoft Azure和區域雲服務提供商)。網通濟增85%，年增94%，反應支援HGX平台的InfiniBand (無限頻寬)強勁成長。

其他業務方面與展望

• 遊戲業務營收9億美元，年增22%。
• 專業圖像業務比較遺憾，營收79億美元，年跌24%。
• 汽車晶片業務季減15%，因整體需求下滑，尤其是中國；年增15%，因自駕平台營收成長。

展望第3季，NVIDIA預估單季合併營收可到160億美元，約正負2%區間，優於市場預估的120億美元至140億美元，第3季毛利率預估72.5%，較第2季再增加。關鍵就在於全球客戶對人工智慧伺服器以及大型語言模型LLM的大幅投資，這將讓NVIDIA繼續增加台積電的先進封裝製程CoWoS訂單。

NVIDIA A100/H100/A800晶片全部都由台積電獨家代工

NVIDIA的AI GPU至今完全供不應求，不論是A100、H100，或是針對中國市場而生的A800等，都是量價大幅增加。而NVIDIA A100/H100/A800晶片全部都由台積電獨家代工，使台積電2H23N7/N5產能利用率上升。目前缺貨的瓶頸來自台積電CoWoS產能有限，台積電目前挪動調配產能，其他半導體供應鏈也積極加速擴充相關產能，並提出2024產能將逐季增加。

Hyperscaler(大規模雲服務商)的市場需求因加速運算、生成式AI提升

LLM Inference的需求快速增加，相較比較小的語言模型就像是老師和學生，後者像前者學習。兩者都要從LLM 開始, 再縮小規模變成小模型。而加速運算、生成式AI為兩項正在發展的趨勢，且是長期結構的改變。NVIDIA能見度極佳，市場需求持續攀升，執行長黃仁勳也強調現在不是單一應用推升需求, 而是全球新的運算平台轉型。

全球都在追趕生成式AI熱潮

NVIDIA執行長黃仁勳表示，「全球都在追趕生成式AI熱潮」，NVIDIA正是這個全新運算時代的最大受惠者。主打A100及H100兩款AI晶片的資料中心晶片部門，第二季營收達103億美元，較去年同期增加逾倍。投資機構Hargreaves Lansdown分析師蘭德葉慈表示：「看空者一般認為熱門股在某個時間點價格將達到極限，所幸對輝達而言，目前放眼望去市場上沒有幾人看空。」

智璞觀點 :

預計未來1~2年，AI所帶動的需求將持續成長，加上許多領先的 IT系統及軟體供應商也都與NVIDIA建立了合作，要將 NVIDIA AI引入各行各業。市場需求很龐大，訂單能見度一路看到明年，供應正逐季提升，未來大型語言模型會出現在幾乎所有東西的前端。NVIDIA導入HGX或MGX等標準化AI伺服器架構，也可能使未來ODM等業者彼此爭取雲端服務供應商訂單的競爭趨於白熱化。