NVIDIA AI推論效能/能源效率均佳

作者: 廖專崇
2021 年 09 月 30 日

人工智慧(AI)推論對於效能有重大影響,根據最新的MLPerf基準測試結果,NVIDIA在使用x86或Arm架構的CPU進行人工智慧(AI)推論方面取得最佳成績,此為NVIDIA連續第三度在MLCommons的推論測試中,創下效能及能源效率的紀錄。

NVIDIA平台的推論效能表現

搭載NVIDIA AI平台的電腦在最新一輪的七項推論效能測試中均拔得頭籌,這些系統由NVIDIA及九個商業生態系合作夥伴所推出,包含阿里巴巴、戴爾科技(Dell Technologies)、富士通(Fujitsu)、技嘉(GIGABYTE)、慧與科技(Hewlett Packard Enterprise)、浪潮(Inspur)、聯想(Lenovo)、Nettrix及美超微(Supermicro)。

推論是電腦運行AI軟體來辨識物體或進行預測時發生的過程。這是一個使用深度學習模型來篩選資料的過程,以找出人類無法取得的結果。MLPerf的推論基準是基於目前AI作業負載和情境,涵蓋電腦視覺、醫療影像、自然語言處理、推薦系統與強化學習等。因此,不論用戶部署哪些AI應用程式,皆能透過NVIDIA的技術創下自己的紀錄。

隨著AI的應用從資料中心擴大到邊緣和其它地方,AI模型及資料集的規模持續擴大。這正是為什麼用戶在進行部署時,需要同時兼具可靠性與靈活性的效能的原因。MLPerf讓用戶有信心地做出購買決策。在包括阿里巴巴、Arm、百度、Google、英特爾(Intel)及NVIDIA等數十家產業的支持下,提出透明且客觀的測試結果。

Arm架構的推論效能表現

全球各地的資料中心採用Arm架構系統的比例越來越高,部分原因在於其能源效率及效能方面的提升,以及不斷擴大的軟體生態系。最新的基準測試結果證明,作為一個GPU加速平台,採用Ampere Altra CPU的Arm架構伺服器在AI推論作業方面,提供與類似配置之x86架構伺服器幾乎相同的效能表現。事實上,在其中一項測試中,Arm架構伺服器的表現甚至優於類似的x86架構系統。

標籤
相關文章

NVIDIA人工智慧技術MLPerf測試大獲全勝

2021 年 07 月 05 日

NVIDIA推論效能升級 聊天機器人更智慧

2021 年 07 月 29 日

NVIDIA企業伺服器A30/A10 GPU  效能領先MLPerf

2021 年 04 月 27 日

改善GPU架構/記憶體 ARM Mali性能倍增

2010 年 11 月 24 日

搶灘高階平板 瑞芯微2014年初發布HSA處理器

2013 年 10 月 15 日

Xilinx AI轉型拉攏資料中心 劍指Intel、NVIDIA

2018 年 10 月 19 日
前一篇
2021 RISC-V Taipei Day將聚焦雲端運算/終端AI新趨勢
下一篇
意法新LoRa SoC鎖定智慧農場領域應用