鎖定AI推論商機 高通發表AI200/AI250解決方案

高通(Qualcomm)近日宣布推出新一代專為資料中心AI推論最佳化的解決方案:以高通AI200與AI250晶片為基礎打造的加速卡及機架系統。以高通在NPU技術領域的領導地位為基礎,這些解決方案提供機架級效能與卓越的記憶體容量,能以出色的每美元每瓦的高效能,支援快速生成式AI推論,並在推動跨產業可擴展、高效且靈活的生成式AI上邁出重大突破。...
2025 年 10 月 31 日

NVIDIA AI推論效能/能源效率均佳

人工智慧(AI)推論對於效能有重大影響,根據最新的MLPerf基準測試結果,NVIDIA在使用x86或Arm架構的CPU進行人工智慧(AI)推論方面取得最佳成績,此為NVIDIA連續第三度在MLCommons的推論測試中,創下效能及能源效率的紀錄。...
2021 年 09 月 30 日

NVIDIA推論效能升級 聊天機器人更智慧

輝達(NVIDIA)推出第八代人工智慧(AI)軟體TensorRT 8,讓語言查詢的推論時間減半,並讓開發人員得以打造高效能搜尋引擎、廣告建議與聊天機器人,並能從雲端到邊緣提供相關服務。 TensorRT...
2021 年 07 月 29 日