人工智慧從雲端走向邊緣裝置的趨勢已經確立,但如何讓AI真正在資源受限的終端設備上發揮價值,仍是產業面臨的關鍵課題。新唐科技選擇了一條與眾不同的發展路徑:從既有的微控制器(MCU)應用市場出發,找出真正需要AI提升價值的場景。透過搭載神經處理單元(NPU)的微控制器、完整的軟體開發工具鏈,以及積極參與產業聯盟的策略,新唐正以涵蓋硬體、軟體到生態系的穩固基石,為終端AI的普及鋪路,從而引領這波由應用驅動的產業新浪潮。
極限運算挑戰:1MB空間跑AI推論
邊緣裝置面臨的核心挑戰是:如何在有限的運算資源和記憶體空間內,實現日益複雜的AI功能。新唐科技副總經理曾經翔表示:「我們不是從AI出發尋找應用,而是從既有的MCU應用市場出發,找出哪些場景真正需要AI來提升價值。我們了解使用者的痛點與需求,希望與使用者共同合作並提供對應的AI MCU規格與開發資源。」新唐推出的NuMicro® M55M1系列微控制器,正是這種思維下的產物。
M55M1搭載Arm Ethos-U55神經處理單元,每個時脈週期可執行256次乘法累加運算,在硬體層面直接支援CNN和RNN運算。這款晶片能在不到1MB的記憶體空間內完成AI推論,對記憶體資源珍貴的嵌入式系統意義重大。
M55M1具備三項獨特功能:當CPU睡眠時,感測器仍能持續監測預定義事件;機器學習模型資料儲存於僅NPU可讀取的專屬區域,保護智慧財產權;內建正弦和餘弦硬體電路,加速AI演算法的三角函數運算。曾經翔指出:「邊緣AI裝置的最大挑戰是:資源有限、但需求不斷增加。新唐在低功耗與運算效能的平衡上有多年經驗,搭配像M55M1這類具NPU支援的產品,能在不到1MB記憶體空間內完成AI推論,可以協助AI應用大幅加速推進。」
降低開發門檻:3分鐘完成AI部署
新唐建構了三個層次的開發工具。NuEdgeWise是圖形化機器學習開發環境,提供從資料蒐集到測試的完整工作流程,利用Jupyter Notebook平台,讓開發者使用TensorFlow Lite進行模型訓練和部署。NuML Toolkit專門處理模型部署,能將Full-INT8量化模型快速轉換為MCU可執行程式碼,開發者只需設定幾個參數就能生成完整專案。
最具創新性的是NuEzAI-M55M1開發板,與Google Teachable Machine平台整合,實現無程式碼AI開發。使用者透過網頁介面收集訓練資料、標記類別,系統自動完成模型訓練並部署到開發板,整個過程最快只需3分鐘。即使沒有程式設計經驗的使用者,也能在10分鐘內完成圖像辨識模型的訓練和部署。
布局成果亮眼:AI賦能智慧醫療/穿戴
憑藉著完善的軟硬體解決方案與生態系,新唐在終端AI市場已展現亮眼的成果,其中,智慧醫療照護領域的「AI智慧檯燈」便是極具代表性的案例。此方案整合旗下NuMicro M55M1微控制器,實現了複雜的臉部與姿態特徵點偵測,能即時辨識使用者坐姿,當出現駝背或姿勢不良時,便主動發出語音提醒,將AI技術轉化為守護上班族、學生與復健者脊椎健康的實際行動。
除了特定場景的深度應用,新唐的技術方案更考慮到終端裝置最嚴苛的限制—功耗。這點在智慧穿戴領域至關重要。其M55M1微控制器具備的低功耗架構,而內建的NPU,讓過去難以實現的複雜AI推論得以在裝置端高效運行,這種兼顧「低功耗」與「高效能」的特性,正是賦能新一代智慧手錶、健康手環等穿戴裝置,實現更豐富AI功能的關鍵所在。
生態系競合時代:聯盟整合創新力
在當前的終端AI發展浪潮中,競爭的維度已從單點技術的突破,演變為整體生態系的實力展現。新唐科技對此有著深刻體認,因此積極參與「AI on Chip產業合作策略聯盟」。曾經翔認為:「在AI這條競爭激烈、技術快速演進的賽道上,『單打獨鬥』的時代已經過去了。現在講求的是『生態系的競合』,而像「AI on Chip產業合作策略聯盟」,就是一個非常好的資源整合平台。」
他進一步分享,「AI on Chip產業合作策略聯盟」所整合的力量,為新唐的創新注入了多層次的動能。它不僅打破了技術與產業的壁壘,讓晶片設計得以對接演算法、感測器等夥伴的專業知識;更重要的是,它提供了寶貴的市場試煉場,讓技術方案能在智慧製造、醫療等第一線場域中,直接接受實戰考驗,從而加速了從開發到商業化的進程。新唐也期待,未來能與聯盟內其他會員企業展開多面向的合作,不論是共同開發產品、技術整合,甚至是攜手拓展海外市場,一同壯大台灣AI產業的能見度與競爭力!