算力/記憶體容量/低功耗技術缺一不可 GAI導入邊緣開發大顯神通(1)

作者: 吳心予
2024 年 06 月 03 日
生成式AI啟動新一波的AI應用熱潮,將LLM導入邊緣端,需要足夠的記憶體容量,確保AI模型順利執行。將SSD用於AI運算,以及In-Memory Compute的技術進展,都讓邊緣端的算力更上層樓。 生成式人工智慧(AI)啟動新一波的AI應用熱潮,而邊緣AI高度安全、低延遲等優勢,也帶動大型語言模型(LLM)在終端裝置中的應用。將LLM導入邊緣端,需要足夠的記憶體容量,確保AI模型順利執行。將SSD用於AI運算,以及In-Memory...
》想看更多內容?快來【免費加入會員】【登入會員】,享受更多閱讀文章的權限喔!
標籤
相關文章

算力/記憶體容量/低功耗技術缺一不可 GAI導入邊緣開發大顯神通(2)

2024 年 06 月 03 日

算力/記憶體容量/低功耗技術缺一不可 GAI導入邊緣開發大顯神通(3)

2024 年 06 月 03 日

PC生態系龍頭火力全開 AI PC來勢洶洶(2)

2024 年 01 月 03 日

非x86陣營搶進AI PC 生態系成熟度定勝負(1)

2024 年 01 月 08 日

非x86陣營搶進AI PC 生態系成熟度定勝負(2)

2024 年 01 月 07 日

兼顧效能/功耗/成本 SSD攜DRAM全力應援AI運算

2024 年 05 月 02 日
前一篇
算力/記憶體容量/低功耗技術缺一不可 GAI導入邊緣開發大顯神通(2)
下一篇
RTX AI PC亮相 黃仁勳:數位人類應用可期