TinyML突破!8-bit MCU、512Bytes也能電腦視覺AI

提到AI多數人即聯想到「需要龐大記憶體、龐大運算力才能跑」,但Edge AI、TinyML的提出已逐漸讓人改觀。即便如此,所謂的TinyML也多是使用32-bit MCU來跑AI,很難在更低階的MCU上跑。 不過,這個觀感可能又要修正了,GitHub上有一名GiorgosXou帳號者提出NeuralNetwork...
2025 年 12 月 15 日

與Qualcomm合併後的Arduino UNO Q軟硬體技術透析

創客圈眾所皆知的Qualcomm已購併了Arduino,隨後發表Arduino UNO Q開發板與Arduino App Lab軟體開發工具,很明顯是希望把3,000多萬名Arduino開發者拉往Qualcomm主導的新領域,但具體是如何引導?本文將對此剖析,以下說明以圖1架構進行展開。 圖1...
2025 年 11 月 22 日

【AI守護地球】從靈感到行動:開發者如何打造永續未來

我們的大自然正面臨因氣候變遷、人為過度開發導致的生態失衡危機,傳統保育方法已難以追上每年約3萬物種滅絕的速度,守護地球的行動刻不容緩。幸而,正在迅速發展的人工智慧(AI)可望帶來突破性的解決方案,對於開發者與Maker來說,這不僅是一個可大展身手揮灑創意的「綠色舞台」,也是能運用自身技術專長助力人類打造智慧、永續未來的絕佳機會。 AI賦予自然保育「超級力量」 一個由主要來自澳洲的生態保育專家、生態旅遊與攝影愛好者共同經營的網站Wildlife...
2025 年 09 月 29 日

本地思考的力量:邊緣AI如何顛覆智慧分配格局

「機器能在哪裡思考?」這個問題的答案正在悄然改變。如同潮汐般,人工智慧正從遙遠的雲端資料中心,流向我們身邊的每一個裝置。這不僅是技術部署的物理位移,更是一場智慧分配模式的根本性變革。 從智慧型手機到工廠感測器,從自駕車到醫療穿戴裝置,邊緣AI正讓決策能力下放至資料產生的第一線,在毫秒間創造價值,在本地守護隱私。這場從「集中式控制」轉向「分散式自治」的典範轉移,正徹底重塑我們與科技互動的方式,開啟一個智慧無處不在的新時代。 邊緣與雲端的智慧博弈 想像一下,在自駕車偵測到前方突然出現障礙物的那一瞬間,如果必須等待資料傳輸到雲端伺服器,等待分析完成,再等待指令傳回。這微不足道的延遲,卻可能成為生死交界的關鍵差距。這正是邊緣AI誕生的核心理由之一。邊緣人工智慧代表的不僅是技術的融合,更是思維模式的進化:它將AI演算法直接帶到資料產生的源頭,在本地裝置上執行,賦予每個終端前所未有的自主性。 自動駕駛可以說是邊緣AI最典型的應用之一。來源:Autodeal 在雲端智慧與邊緣智慧的對話中,兩者各展所長。雲端AI憑藉近乎無限的運算資源和儲存空間,擅長複雜模型的訓練和海量資料的處理;而邊緣AI則以毫秒級的低延遲、離線運作的獨立性、本地處理帶來的隱私保障以及顯著降低的頻寬需求贏得了自己的戰場。當我們必須在幾毫秒內作出決策,當網路連線不穩定,當資料隱私至關重要,或當頻寬成本高昂時,邊緣AI的價值便清晰浮現。 然而,智慧的世界並非非此即彼的二元對立。現實應用中,混合架構正成為主流選擇—邊緣裝置處理時間敏感的任務和初步分析,而雲端則負責深度學習、大規模資料分析及模型更新。這種協作模式如同一個完美的交響樂團,各司其職又和諧共存。 在自駕的世界裡,車載系統在幾毫秒內完成環境感知與即時決策,同時將匯總資料傳回雲端,用於改進整體模型與長期規劃。這不是兩種技術的對抗,而是優勢互補的共生關係,共同構建一個更智慧、更安全、更高效的世界。 推動智慧前移的關鍵引擎 是什麼推動了智慧從雲端向邊緣的大規模遷徙?答案藏在四個關鍵驅動力的交織中。首先,毫秒決勝的場景愈發普遍。在工業機器人需要即時調整、自駕車面臨突發狀況、醫療監護設備監測到危急狀況時,每一毫秒的延遲都可能帶來無法挽回的後果。即時性不再是體驗的加分項,而是功能實現的根本前提。 第二股推力來自對資料隱私的日益重視。隨著GDPR等法規的出台和大眾隱私意識的提升,如何在挖掘資料價值的同時確保個人資訊不被濫用,成為企業的嚴峻挑戰。邊緣AI透過將敏感資料留在本地處理,既規避了傳輸風險,也簡化了合規流程,為隱私保護提供了優雅的解決方案。 這場智慧遷徙的步伐,同樣受到硬體和軟體雙重突破的加速。晶片側,從輝達的Jetson系列到Google的Edge...
2025 年 05 月 15 日

量化剪枝催生TinyML 邊緣AI進駐低功耗MCU

人工智慧(AI)和機器學習(ML)的技術不僅正在快速發展,還逐漸被創新性地應用於低功耗的微控制器(MCU)中,進而實現邊緣AI/ML的解決方案。這些嵌入式系統的核心元件如今能夠支援AI/ML應用,憑藉其成本效益、高能效以及可靠的性能,整合在可穿戴裝置、智慧家庭設備和工業自動化等領域的效益尤為顯著。具備AI強化功能的MCU和TinyML的興起(專注於在小型、低功耗設備上運行ML模型)展現了此領域的進步。TinyML對於直接在設備上實現智慧決策、支援即時處理和減少延遲至關重要,特別是在連接有限或不需連線的環境中。 AI/ML技術融入低功耗MCU,實現高效邊緣運算 TinyML是指在小型、低功耗設備上應用機器學習模型,尤其是在資源受限的MCU上優化運行。這使得邊緣設備能夠實現智慧決策,支持即時處理並減少延遲。量化(Quantization)和剪枝(Pruning)等技術用於減小模型體積並提高推理速度。量化透過降低模型權重的精度,顯著減少記憶體使用而幾乎不影響準確性。Pruning則透過去除不重要的神經元,進一步縮小模型規模並提升延遲性能。這些方法對在資源有限的設備上部署ML模型至關重要。 PyTorch和TensorFlow...
2025 年 04 月 23 日

克服功耗/算力/軟體跨平台開發 AI智慧穿戴裝置大有可為

智慧穿戴裝置受到生成式人工智慧(GAI)帶動,頭戴式裝置與其他智慧功能進一步普及。穿戴裝置設計持續朝向輕薄短小的目標邁進,功率管理元件(PMIC)與CPU IP供應商極盡所能地精簡設計,為穿戴裝置打造更有彈性、功率更低且尺寸更小的架構。其他包含眼球追蹤技術等智慧功能,也近一步為穿戴式裝置加值,AI...
2024 年 10 月 02 日

智慧手錶功能日益多元 生物感測/tinyML成發展重心(2)

感測技術是智慧手錶業者創造出產品區隔與品牌定位的關鍵要素。而為了進一步利用這些感測器所產生的數據,創造出更多附加價值,品牌廠商無不在機器學習領域卯足全力。 tinyML概念萌芽 根據上述官方的技術說明,可進一步發現,在相同的功能應用上,蘋果與三星又採取了不同的技術策略。面對更高的運算能力需求,三星聚焦雲端軟體面的演算法更新。相較之下,蘋果則更聚焦終端硬體面的運算能力擴充,其在提高能效比的前提下,鎖定終端設備嵌入更高AI運算能力的做法,與近年嵌入式AI技術中頗受重視的微機器學習(tinyML)概念相符合。 根據tinyML基金會的定義,廣義的tinyML可被定義為能夠在極低功耗(1毫瓦以下)的前提下,於終端設備上常態運行資料分析的硬體、演算法和軟體等技術,並致力於實現兼顧高運算能力、低功耗與低延遲等特性,同時保有高度系統可靠性和資料安全性的終端裝置。 tinyML的技術定義和規格仍在發展中,愈來愈多研究指出其應用潛力,例如學者Alajian和Ibrahim在2022年《TinyML:...
2024 年 08 月 05 日

Ceva增添全新TinyML最佳化NPU

Ceva宣布推出Ceva-NeuPro-Nano NPU,以擴展其Ceva-NeuPro Edge AI NPU產品系列。這些自給自足的高效NPU可為半導體企業和OEM廠商提供所需的功耗、性能和成本效益,以便在用於消費、工業和通用AIoT產品的SoC中整合TinyML模型。 TinyML是指在低功耗、資源受限的設備上部署機器學習模型,進而為物聯網(IoT)增添人工智慧的技術性能。物聯網設備對於高效、專業的人工智慧解決方案的需求日益增加,推動了TinyML市場快速成長。根據研究機構ABI...
2024 年 07 月 04 日

新唐全新MCU系列適用於CAN FD/USB和Ethernet/Crypto

新唐科技發布全新多功能微控制器M463 CAN FD/USB HS系列和M467 Ethernet/Crypto系列。適用於多種裝置和系統,包括IoT gateway、工業控制、電信、資料中心、智慧電網控制、白色家電馬達控制、小型TFT...
2023 年 12 月 22 日

效能/功耗/AI推論一把罩 MCU實現AIoT多元應用(1)

AIoT裝置需求攀升,MCU就是實現智慧物聯的重要角色。面對終端裝置的智慧化需求,MCU供應商在低功耗設計以外,積極提供客戶可實踐智慧應用的平台與工具。 在人工智慧(AI)的應用熱潮下,物聯網裝置的智慧化需求攀升,而能夠實現智慧物聯網(AIoT)的重要角色就是MCU。面對終端裝置的智慧化需求,MCU供應商無不在低功耗設計以外,提供可實踐智慧應用的平台與工具。例如提供可執行AI模型的MCU,協助開發者結合TinyML的技術,在邊緣裝置效能與功耗有限的前提下,實現影像辨識或語音控制等智慧功能。 資料驅動次世代AI應用 可預期下一個世代的資料量會爆發性成長,發展成由資料驅動的應用趨勢。意法半導體技術行銷經理王柏雄(圖1)說明,MCU在包含工業等多元領域皆有廣泛應用,面對資料量大幅成長,MCU的效能需要隨之提升,提供更快速的傳輸介面。在終端應用方面,產品開發者新的挑戰在於,物聯網裝置除了既有的聯網功能,也需要結合人工智慧,以實現AIoT裝置。 圖1 意法半導體技術行銷經理王柏雄說明,工廠可以採用MCU開發工具中內建的機器學習功能,實現馬達的預測性維護 因此MCU供應商需要回應聯網裝置智慧化的需求,提供功耗、效能與成本相應的產品,開發有助於客戶導入AI的工具。例如在智慧製造領域中,AI開發工具NanoEdge...
2023 年 07 月 06 日

效能/功耗/AI推論一把罩 MCU實現AIoT多元應用(2)

AIoT裝置需求攀升,MCU就是實現智慧物聯的重要角色。面對終端裝置的智慧化需求,MCU供應商在低功耗設計以外,積極提供客戶可實踐智慧應用的平台與工具。 無人載具展現靈活視覺辨識應用 (承前文)MCU可以在終端裝置中,執行機器學習功能。國立中興大學電機工程學系教授蔡智強(圖4)分享實驗室中將效能較佳的STM32H747...
2023 年 07 月 06 日

瑞薩收購Reality AI一年後進度更新

瑞薩電子(Renesas Electronics)於一年前宣布收購嵌入式人工智慧供應商Reality Analytics(Reality AI),近日發表了人工智慧(AI)和微型機器學習(TinyML)解決方案方面的進展。 2022年6月9日,瑞薩宣布以全現金交易方式收購Reality...
2023 年 06 月 19 日