以人工慣量智慧微電網實踐AI機房低碳綠色算力
ChatGPT等LLM大型生成式語言模型橫空問世興起這一波AI人工智慧浪潮，2024（今）年的台灣接續前一年全球AI伺服器的發展依舊火燙，儘管美國科技巨頭們股價在第三季遭逢幾次金融市場震盪，但從AI晶片製造商到台美伺服器業者的出貨量看來完全不受影響，AI平台與新創公司甚至國家主權AI資料庫中心的訂單能見度仍創新高，AI機房與資料中心的建置預估2030年前將供不應求。在產業前景一片大好下，於此同時算力用電需求大增以及更多碳排問題卻成為人們的隱憂。
全球人工智慧發展發展下，AI伺服器與資料中心面臨下面六大問題待解決：
高能耗：AI伺服器，特別是執行深度學習模型的大規模集群模型運算將會消耗大量能源。訓練大型神經網路（如GPT-4這樣的模型）需要大量的計算資源，這些資源通常會導致巨大的電力需求。尤其在大型資料中心，這種高能耗會使電力成本和營運壓力增加。
散熱需求：隨著AI伺服器的工作量增加，伺服器的發熱量也相應增加。為了保持伺服器內元器件與高昂的晶片能在安全溫度範圍內工作，需要有效的冷卻系統，這進一步增加了能源消耗。冷卻系統包括空調、水冷亦或是浸沒式冷卻技術等，這些系統本身也需要額外的電力來執行。
電源管理與效率：在電力使用方面，電源管理效率是另一個挑戰。伺服器需要穩定的電源供應，但隨著使用負載的波動，伺服器可能無法始終以最佳效率執行。如何動態調整電源以應對不同的負載狀況，同時減少不必要的能耗是技術上的挑戰。
可持續性再生能源的採用：由於AI伺服器的高能耗，資料中心對建置地點所造成的環境影響越來越受到關注。許多公司開始尋求使用可再生能源來為資料中心供電，但大多數再生能源均屬間歇且不穩定的能量源，要如何穩定地供應大規模的可再生能源仍然是個問題。
硬體設計限制：伺服器的硬體設計（如GPU和TPU等專用AI硬體）對用電效率的改善仍然有很大空間。儘管近年來有很多專門針對AI負載的硬體改善，但隨著模型規模的擴大，如何在維持性能的同時降低功耗仍是一個關鍵問題。
碳足跡和環境影響：隨著AI伺服器的使用增長，能源消耗所帶來的碳足跡也變得更加顯著。許多公司和研究機構開始關注如何減少AI模型訓練和推理的碳排放。這不僅涉及能源使用效率，還包括設計更節能的AI演算法。
總結來說，AI伺服器的高能耗和散熱需求是當前技術面臨的兩大挑戰，如何改善電源管理、提升硬體效率、以及採用更多的可再生能源是解決這些挑戰的關鍵方向。
創揚科技Just...
2024 年 09 月 19 日
