軟硬整合釋放AI潛能 資料中心效能須升級

作者: Michael McNerney
2024 年 02 月 16 日
過去這一年來,由於生成式預訓練模型(GPT)和其他大型語言模型的推出,AI已經漸漸成為科技應用的主流趨勢。AI迅速發展正為全球各行各業帶來革命性的改變,許多企業組織希望將AI整合進其資料中心,以進一步提升工作效率。 然而,儘管企業組織整合AI聽起來容易,然而許多人仍未了解將AI整合進資料中心所需面臨的挑戰。隨著整合AI的需求不斷提高,2024年的企業組織正面臨著各種複雜的挑戰,包含從現有基礎設施的相容性問題,到整合專為AI設計的硬體等。 整合AI的相容性挑戰 企業組織整合AI時面臨的主要挑戰之一,就是需確保新的AI技術與現有的資料中心基礎硬體設施相容。舊系統很可能並沒有能應對AI演算法的運算能力,導致效能瓶頸與相容性問題。為了克服這種障礙,企業組織需仔細評估現有基礎設施的效能,並進行必要的升級以應對AI工作負載。 造成這些複雜挑戰的一個最主要因素是TensorFlow和PyTorch等框架,以及針對AI開發和最佳化特定AI加速硬體的函式庫不斷推陳出新。這些框架經常性釋出更新,以充分利用和最佳化新的硬體功能。而這種挑戰可能導致軟體需求和硬體功能之間的不相容,阻礙其運作達到最佳效能,也可能間接導致不穩定性,甚至使企業組織失去競爭力。 整合AI專用硬體 為了能採用符合產業標準的AI,資料中心基礎設施需要有能夠迅速處理大量資訊的設備。然而現階段,多數企業組織仍在使用無法應對AI工作負載的舊型設備。發展用於學習和開發(Learning...
》想看更多內容?快來【免費加入會員】【登入會員】,享受更多閱讀文章的權限喔!