July_AI Chip Topics|AI Inference Chip Trend Analysis by the Edge of Hundreds of Controversies(Next)
Microsoft 微軟在 2023 年底推出首款自研 AI 加速器 Maia 100,為 Azure 雲端築起「自產算力」護城河。Maia 100 採用 TSMC N5 + CoWoS‑S 製程,整合 64 GB HBM2e、總頻寬 1.8 TB/s,並配置約 500 MB 多層片上 SRAM,足以暫存大部分 KV‑cache,降低與 HBM 之間的搬運延遲。張量核心支援 FP32、BF16、FP8 及微軟自訂 MX 4‑bit 格式;晶片 TDP 700 W,雲端推論常以約 500 W 運行,可於訓練與推論間動態切換。Maia 100 具超純量(Superscalar)向量處理器與非同步 DMA (Direct Memory Access)控制器,可在背景預取記憶體或網路資料,使運算與傳輸
For more details, please register or log in.Member Login.