以輕量化AI技術突破硬體算力瓶頸 峻魁智慧模型優化工具催速邊緣AI應用落地

2025 年 11 月 27 日

AI時代的浪潮推動各行業積極導入人工智慧,但高昂的硬體成本與龐大的模型運算量,卻讓AI應用發展面臨瓶頸。峻魁智慧看準這個痛點,開發出相應的AI模型優化工具方案,能讓AI模型在算力與記憶體資源有限的輕量化晶片上高效運行,協助企業在硬體成本與效能間找到最佳平衡,加速AI成功落地。

讓AI不再被硬體限制

峻魁智慧創辦人郭峻因表示,公司成立之初便看準AI應用逐步往邊緣端發展的趨勢,特別是在物聯網(IoT)終端裝置、智慧交通等應用中,對即時性、低功耗與成本控管的要求極高。因此,透過剪枝(Pruning)與量化(Quantization)等輕量化技術,讓AI模型能在硬體資源有限的設備上順暢執行,將是邊緣AI能否廣泛落地的關鍵。

因應此一發展需求,峻魁智慧提出完整的AI模型優化技術方案,涵蓋模型剪枝、量化與自我學習三大核心,讓AI不僅能在車載、安防、居家等三大智慧應用領域中落地,更能隨著使用情境不斷進化。

剪枝/量化技術推動邊緣AI普及

郭峻因表示,如何讓龐大的運算模型能有效導入邊緣設備,是AI應用普及的一大挑戰。峻魁智慧AI模型優化工具的核心之一P-Craft,就是針對這一痛點而設計。透過刪除冗餘的神經網路節點,也就是模型剪枝技術,讓模型得以「瘦身」,同時保持精度表現。這讓原本需要龐大運算資源的AI,能在汽車晶片或小型嵌入式裝置上順利執行。

另一項核心技術Q-Craft則是模型量化工具。它的原理在於將模型運算中的浮點數轉為定點數,使模型在小晶片上運作時更加高效且穩定。郭峻因強調,剪枝與量化不僅解決了運算效率與功耗問題,更重要的是讓AI應用能夠跨出雲端伺服器,跨足百工百業的應用。

自我學習讓邊緣AI持續進化

除了剪枝與量化,郭峻因更看重AI模型自我學習(Self-learning)的能力,這也是峻魁智慧與眾不同的地方。他進一步指出,過去AI模型的訓練,高度依賴專家經驗與大量的人工標註,「做人工智慧,要先有工人智慧」這句話,道盡了數據標記的繁瑣與成本。因此,峻魁智慧發展了A-Craft自動標記技術,並進一步規劃讓模型能在運行過程中自行擷取資料、不斷優化。

這種自我學習的能力,可以降低對專家持續調校模型的依賴,讓AI能隨著情境演變而調整。郭峻因強調,峻魁智慧希望打造的未來,是任何終端裝置都能即時擷取當下資料進行自我學習,並將此願景稱為「Self-learning on Edge」。預計三到五年內,這樣的情境就會逐漸實現。

這是一個看起來很直觀,但執行起來需要一整套方法論的工作。以剪枝為例,哪些節點可以刪除,哪些應該保留?節點刪除後,要如何判斷瘦身後的模型表現是好是壞?這不僅要視具體的應用而定,更有許多專業知識(Know-how)在裡面。而這些Know-how就是峻魁智慧的價值所在。

從技術服務延伸多元應用

在市場發展策略上,峻魁智慧以軟體工具矽智財(IP)為核心,同時向設計服務與硬體IP擴展,透過設計服務協助客戶開發專屬模型,進而參與硬體IP合作,建立多層次的營運模式。

郭峻因說明,峻魁智慧主要鎖定20美元以下的低功耗邊緣AI晶片市場,並已與多家IC設計公司及系統大廠合作。目前公司約七成多的營收來自智慧交通應用,在這領域已累積長期且深厚的實戰經驗,是公司最具競爭力的基石。

隨著邊緣AI滲透各產業,峻魁智慧正積極將技術優勢延伸至智慧製造、智慧建築與家庭、機器人及無人機等領域,擴展應用版圖。

持續深化技術助攻晶片生態鏈

展望未來,峻魁智慧將持續深化模型優化與訓練工具的研發,讓更多開發者與晶片廠能以低門檻導入輕量化AI。郭峻因指出,公司最終願景是讓AI能在任何裝置上順利運作,不再受限於昂貴的硬體環境,真正實現AI的普及與落地。

也因此,峻魁智慧決定加入由經濟部產業發展署所成立的「優勢晶片研發應用生態圈」(簡稱「晶創生態圈」),並在智慧電子產業計畫推動辦公室(SIPO)協助下,提出「驅動國內IC設計業者先進發展補助計畫」(簡稱「晶創IC補助計畫」)申請,期能透過晶創生態圈與更多國內晶片業者合作,讓AI應用更有效率地在國產晶片上實現;同時藉由計畫的補助,取得更多研發資源,進一步開發能壓縮大語言模型和多模態模型的工具,以應對未來愈來愈複雜的AI應用趨勢。

郭峻因談到,在臺灣IC設計產業鏈中,峻魁智慧是屬於軟體公司,商業模式定位是「B2B2X」,其中第一個「B」是峻魁智慧,第二個「B」是合作夥伴(晶片或系統廠),「X」則是終端客戶。因此,非常需要透過SIPO協助,找到更多第二個「B」,共同將技術推向終端市場。他同時期許,未來SIPO能進一步促進政府或產業對軟體IP價值的認識,讓AI軟體在臺灣產業的地位,得以與硬體並駕齊驅。

標籤
相關文章

感測器+AI後勢可期  義明跨界合作開拓應用新契機

2025 年 07 月 31 日

NPU走進主權AI 耐能智慧從端到雲全面布局

2025 年 07 月 31 日

從既有MCU市場挖掘AI價值 新唐科技引領終端AI應用新浪潮

2025 年 07 月 31 日

區域市場競爭加速 LCD TV進入薄利時代

2005 年 08 月 02 日

Ultrabook「薄」得滿堂彩 關鍵元件需求漲

2011 年 09 月 05 日

循Kindle Fire成功模式 Fire TV搶食OTT大餅

2014 年 05 月 19 日
前一篇
建興儲存科技推出16TB企業級ER4系列SATA SSD 隨機讀寫效能業界居冠