隨著生成式AI技術爆發性成長，全球AI運算需求呈倍數增長，企業與個人用戶面臨前所未有的運算成本與能耗挑戰。根據Tirias Research最新研究指出，若將20%的生成式AI運算移至邊緣裝置，到2028年可望節省高達160億美元的成本，反映出邊緣AI在混合式運算架構中的重要性與經濟效益正迅速提升。
在這波AI運算從雲端向邊緣延伸的趨勢中，高通透過長期技術積累展現獨特競爭力。高通資深技術行銷總監江昆霖表示，「高通在十多年前就已率先導入Hexagon NPU，並持續透過Snapdragon平台、跨多種終端裝置通用的AI Software Stack與Qualcomm AI Hub，讓AI應用從雲端走向邊緣。」
重塑AI格局，邊緣運算提升應用體驗
高通認為，邊緣AI是推動AI普及化與落地應用的關鍵環節。「相較於雲端AI，邊緣AI能夠直接在使用者日常接觸的裝置中運行，例如智慧型手機、AI PC、汽車、物聯網與穿戴裝置等，不僅反應更即時，也能兼顧隱私性與可靠性，是AI真正走進生活的起點。」江昆霖強調。
在當前生成式AI蓬勃發展的背景下，純雲端運算模式已難以滿足日益增長的需求。高通方面指出，結合雲端與邊緣的混合式AI架構能同時解決成本、能耗、即時性與隱私保護等多重挑戰，正成為產業發展的主流方向。這種架構能將AI任務回應時間從數百毫秒縮短至幾十毫秒，大幅改善使用者體驗，同時讓敏感數據直接在裝置上處理，從根本上解決隱私保護問題。
高通的產品設計更重視「智能分流」的理念，系統會根據任務複雜度、裝置能力與網路條件，自動最佳化AI處理任務的分配，實現效能與能源效率的最佳平衡。
AI模型最佳化，異質運算架構滿足終端需求
隨著邊緣AI應用場景多元化，終端裝置面臨前所未有的效能與效率挑戰。「隨著生成式AI模型不斷進化、對多模態和同時執行多個AI模型的需求，以及代理人AI的個人化即時反應等的期待，裝置端面臨的是前所未有的效能與效率挑戰。」江昆霖分析指出，現代邊緣AI應用必須在有限的功耗與散熱條件下，同時滿足高效能、低延遲與持久續航的要求。
為應對這些挑戰，高通的Snapdragon平台採用先進的異質運算架構，結合CPU、GPU與專屬的Hexagon NPU，能在不犧牲效能與電池續航力的前提下，提供即時且高效的AI處理能力。這種架構能根據AI任務特性智能分配計算資源，實現效能與功耗的最佳平衡。
「我們也看見，AI模型正變得更小更強大，像DeepSeek-R1和Qwen-7B這類模型，透過高通的AI模型軟體最佳化技術，更能在搭載Snapdragon平台上的裝置順暢執行。」江昆霖指出，這些經過最佳化的模型可縮減至數GB甚至更小，同時保持強大的能力，非常適合在終端裝置上執行。
高通預計2025-2026年將迎來顯著的市場增長機會，尤其在AI PC與工業物聯網領域，軟硬體協同最佳化將持續提升終端AI運算的性能表現。
跨平台生態系統成關鍵，軟硬整合降低開發門檻
發展邊緣AI的一大挑戰在於突破不同裝置間的整合門檻。江昆霖指出：「高通的策略是，先打造具備AI能力、高效能、低功耗與連接能力的解決方案，透過Snapdragon平台，將這些技術導入手機、汽車、筆電、網際網路等多種裝置類型，並提供跨越不同作業系統的軟體開發環境AI Software Stack和工具組。」
在軟體生態系統方面，Qualcomm AI Hub目前提供超過170個預先最佳化的AI模型，涵蓋多種常見任務，並支援15款大型語言模型。開發者可直接部署這些模型，無需額外調校，大幅縮短開發時間。
高通的整合策略體現在各個層面：共通的AI架構確保不同產品間的技術協同；統一的開發環境使開發者能一次開發，多平台部署；與產業夥伴的緊密合作則確保裝置間的無縫互操作性。
「目前，已有超過1,500家企業使用AI Hub服務，其中來自台灣的開發者比例居全球之冠，反映出台灣在AI創新上的實力與參與度。」江昆霖特別提到，高通也與台灣政府、學界合作推動TAIDE模型的最佳化與在地部署，支援繁體中文生成式AI應用，強化本地化AI體驗。
高通表示，台灣在其供應鏈中具有關鍵地位，提供了重要的元件製造與技術支援能力。通過與台灣廠商的深度合作，高通能更有效地推動邊緣AI技術的商業化應用。
邊緣AI釋放混合運算架構潛力
邊緣AI技術正處於加速發展期，高通通過技術創新與生態系統構建雙管齊下的策略，鞏固其在終端AI市場的領導地位。「我們不只是晶片供應商，更是提供完整解決方案的技術夥伴，」江昆霖強調，「從晶片設計、韌體開發到應用軟體，高通提供一站式服務，大幅縮短客戶的產品上市時間。」
高通預測，混合式AI架構將在未來3-5年內成為主流部署方式。「高通期待藉由與我們客戶和全球AI開發生態系有更緊密的連結，提供更友善與豐富的資源支持開發者，將能加速協助邊緣AI創意的實現與部屬在Snapdragon裝置上。」江昆霖表示，這種合作對台灣AI開發者而言尤其重要，為他們提供了連接全球市場的機會。
隨著邊緣AI繼續發展，我們將看到高通的跨平台技術架構與軟硬整合優勢使其在這場技術革新中佔據有利位置。然而，標準化、安全性與跨平台互操作性仍是整個產業需要共同解決的挑戰。
