異質運算實現邊緣LLM CPU/GPU/NPU各有所長

作者: 吳心予
2024 年 06 月 06 日
生成式人工智慧(AI)技術及大型語言模型(LLM)逐步往終端應用拓展,在邊緣端導入生成式AI的願景,成為處理器廠商的兵家必爭之地。面對市場上特定應用領域的AI推論需求,處理器廠商積極開發適用於終端裝置的解決方案,期望未來終端應用可以導入生成式AI。...
》想看更多內容?快來【免費加入會員】【登入會員】,享受更多閱讀文章的權限喔!
標籤
相關文章

PC生態系龍頭火力全開 AI PC來勢洶洶(1)

2024 年 01 月 04 日

PC生態系龍頭火力全開 AI PC來勢洶洶(2)

2024 年 01 月 03 日

PC生態系龍頭火力全開 AI PC來勢洶洶(3)

2024 年 01 月 03 日

非x86陣營搶進AI PC 生態系成熟度定勝負(1)

2024 年 01 月 08 日

非x86陣營搶進AI PC 生態系成熟度定勝負(2)

2024 年 01 月 07 日

算力/記憶體容量/低功耗技術缺一不可 GAI導入邊緣開發大顯神通(1)

2024 年 06 月 03 日
前一篇
生成式AI落地邊緣幹大事 突破模型瘦身/精準度瓶頸
下一篇
USB 80GB/240W終端產品即將面世 行動裝置強制搭載Type-C風潮蔓延