包含運算、儲存、網路和電源在內，2024年資料中心半導體整體市場規模(TAM)達到了2090億美元。到2030年，這個數字預計將接近5000億美元。人工智慧(AI)和高效能運算(HPC)現在是主導的應用場景，其中生成式AI單獨重塑了處理器和加速器的需求。
GPU仍然是人工智慧基礎設施的基石，NVIDIA在2024年占據了93%的伺服器GPU收入。市場研究與策略諮詢公司Yole Group預測，GPU銷售金額將從2024年的1000億美元增長到2030年的2150億美元。儘管其平均售價較高，但GPU在人工智慧訓練中不可或缺，且在推論中的使用也日益增加。
在這個動態的環境中，人工智慧專用積體電路(AI ASIC)正迅速崛起。Google、亞馬遜(Amazon)和微軟(Microsoft)正在投資於領域特定的矽材料，以最佳化性能並減少對NVIDIA的依賴。這些業界領導者紛紛投入，將帶動AI ASIC的市場規模。預計到2030年，AI ASIC的銷售金額將飆升至845億美元。
運算並不是唯一的瓶頸。記憶體架構也在快速演進。DDR5的採用持續增加。HBM的需求異常旺盛，尤其是在AI訓練方面。CXL正在獲得重視，以解決新伺服器架構中的記憶體分散和延遲挑戰。
資料中心矽晶片的領導地位也在發生變化。美國廠商仍然占據主導地位，尤其是NVIDIA、超微(AMD)和英特爾(Intel)。但Yole Group的分析師指出，中國正通過戰略投資和政策加強其國內能力。出口管制持續影響供應鏈，同時也增強了中國及其他地方的自主發展目標。
