生成式AI算力需求無極限　HPC硬體彈性擴充應援

ChatGPT的橫空出世，再度帶動市場對於生成式AI與高效能運算(HPC)的關注。生成式AI運算大型語言模型的效能需求高，因此HPC成為助力生成式AI應用開枝散葉的關鍵之一，生成式AI也為HPC硬體帶來新一波市場動能。市場對於硬體的運算效能需求大幅成長，晶片與伺服器廠商便針對AI的運算需求推出高效能的硬體解決方案，以滿足市場對於加速AI運算與大量的平行運算需求。 技術進展促使生成式AI普及 促使生成式AI普及的原因，來自技術進展與市場需求。美超微(Supermicro)資深產品協理林振瑋(圖1)認為，HPC的技術進展，協助開發人員更有效率地訓練龐大且複雜的模型。同時，現有的大量、多樣的數據集，有助於開發人員訓練功能完善的大型模型，包含聊天機器人及其他對話式AI應用，並讓機器人的回覆內容更貼近真人回覆。從市場需求觀察，使用者對於個人化且互動自然的人機互動需求提升。加上現有的生成式AI服務在技術與平台的整合完善，有效降低使用者的使用門檻。 圖1　美超微資深產品協理林振瑋 運算效能需求爆發 從運算的角度分析，生成式AI帶起了新一波的HPC需求。英特爾(Intel)業務暨行銷事業群商用業務總監鄭智成(圖2)指出，目前的大型語言模型運算需求，無法只依賴一台伺服器，而需要伺服器群集，也就是HPC的形式才能滿足。HPC的節點從100逐漸成長到200個節點，未來仍會持續增加。過去的語言模型，僅具備語言辨識功能，規模較小，運算需求不會超過200個HPC節點的範圍。但是隨著語言模型發展至第二階段的語意理解，以及第三階段的文本生成，語言模型的規模大幅成長，大型語言模型便成為需要國家級，由大約一萬個節點組成的伺服器群集才能訓練的模型。 圖2　英特爾業務暨行銷事業群商用業務總監鄭智成 強化解方擴充性以提升效能彈性 即便多數的應用場景沒有國家級的運算資源，數千節點的HPC，仍可以滿足垂直領域應用所需的專用模型訓練。因此產業內整體的HPC運算需求不只上升，需要的運算效能也持續成長，供應商便需要盡可能提供彈性的租用或運算方案，以滿足市場需求。 廠商如Arm透過可擴充的HPC產品設計，來解決AI不斷成長的運算能力需求。Arm資深技術總監陳胎裕(圖3)提及，架構方面，透過高度可配置的設計，協助HPC產品根據工作負載的特定需求進行客製化設計。例如Arm可擴充向量延伸指令集(SVE)可根據廣泛應用，定製的向量處理功能。此外，確保HPC產品的效能擴充性，加上節能的設計架構，便能在降低產品功耗的同時，實現效能擴充的彈性。最後，面對單一系統中同時使用不同類型的處理器，包含CPU、GPU和專用加速器，採用異質運算可將每個任務分配給最合適的處理器，最大化運算效率。 圖3　Arm資深技術總監陳胎裕 從處理器廠商的角度，英特爾同時布局CPU、GPU與AI訓練加速器。鄭智成說明，目前的P-Core系列的CPU產品內建延伸指令集AMX，AI相關運算的效能可有效提升約十倍，也就是CPU除了可以執行AI推論，效能也足以訓練AI模型。同時，高效能CPU伺服器的功耗，大約是GPU伺服器的十分之一，因此若是AI運算選擇採用數個CPU伺服器，可以大幅降低電力消耗。 更高效的數據處理挑戰 陳胎裕分析，預期HPC和生成式AI將在醫療、金融、汽車和製造等眾多產業中，展現新的應用場景。例如，生成式AI可用於設計和優化新產品，而HPC可用於在虛擬環境中模擬和測試這些產品。技術方面，隨著生成式AI需要的數據量持續成長，需要快速、準確地處理和分析大量數據，因此市場對於高效能數據分析解決方案的需求將不斷增加。高效能方案也需要輔以新的硬體和軟體解決方案，以提供必要的效能和可擴充性。 而未來HPC社群最關心的挑戰之一，是HPC和AI硬體的發展將整合還是分流運行。陳胎裕認為，雖然HPC與AI的技術領域部分重疊，但也有差異之處，因此HPC...