西門子推出Catapult AI NN軟體 AI ASIC/SoC開發更快速

西門子數位工業軟體近日推出Catapult AI NN軟體,可幫助神經網路加速器在特殊應用積體電路(ASIC)和晶片單系統(SoC)上進行高階合成(HLS)。Catapult AI NN是一款全面的解決方案,可對AI架構進行神經網路描述,再將其轉換為C++...
2024 年 06 月 18 日

ST揭示2024年嵌入式系統三大重要趨勢

2024年嵌入式系統將如何發展才能讓製造商保持領先地位?十年前,很少有人會問這些問題。如今,這個答案可能將決定整個公司的成敗。事實上,嵌入式系統曾一度被局限於一些小眾應用,但現在已無處不在。從工廠到家用電器,從醫院裡昂貴的醫療設備,甚至到無處不在的穿戴式裝置,每當我們變得更加互聯或永續時,嵌入式系統通常都是創新的核心。讓我們來瞭解2024將如何發展。 一直以來,提升效率往往是創新的主要驅動力。不過,可能需要拓展對「效率」的理解。從本質上來說,效率是完成工作與所耗之能量的比率。在微控制器領域中,指的是電力的效率。因此,提升效率意味著降低功耗,同時提供相同或更高的運算吞吐量。然而,隨著嵌入式系統應用不斷優化,一種新的效率比決定了整個產業的發展方向:在給定運算傳輸量下的應用複雜性。 想像一下,若將今天的高性能MCU帶回至五年前,它根本無法運行現在的神經網路或豐富的使用者介面,因為那時的框架和機器學習演算法遠不如現在精細。而現在的嵌入式系統不僅性能更加強大,而且經過了新的應用優化。因此,同樣的運算力在今天可以運行更強大的應用。 例如,神經網路的量化能打造出更強大的邊緣AI系統。ST最近與施耐德電氣共同展示一個深度量化的神經網路,即在STM32H7上運行人數統計應用。而NVIDIA在運行一個用其TAO工具包優化的網路時,亦採用同款微控制器和STM32Cube.AI。同樣的,新的馬達控制演算法,如ZeST,讓MCU可以更準確、更高效地驅動馬達,而新的UI框架優化也能讓MCU運行更豐富的圖形化使用者介面,同時還能降低對記憶體的需求。例如,ST新版TouchGFX支援向量字體,ST推出的STM32U5也具備了IP加速的向量圖形處理功能,在圖形介面開發框架的加持下,STM32U5的圖顯效果將會更加出色。 工程師必須確保自己的嵌入式處理解決方案不僅能夠降低功耗,而且其所運行的應用也是經過優化改良的。在許多情況下,即時應用不再是while迴圈中運行的基本程式碼。開發人員必須充分利用雲端運算、機器學習、感測器融合或圖形介面。因此,找到合適並配備完善生態系統的MCU至關重要,因為完善的生態系統可以提供新的解決方案,並且幫助開發者優化應用。工程師必須考慮設備的運行速度,以及因應複雜、功能豐富應用的支援能力。 目前,嵌入式應用與網路連線已經不再是新鮮事,物聯網已問世多年,因為有許多應用都仰賴著網路。不過,到目前為止,眾多應用主要還是選擇某一種通訊模式,採用有線或無線的通訊。如果是後者,通常會選擇一種無線協定,例如蜂巢、Wi-Fi或藍牙。過去幾年,嵌入式產業的無線通訊協定激增,從6LoWPAN到LoRaWAN、Zigbee、Thread、NB-IoT,新協定層出不窮,但卻沒有統一標準,而是各種協定的混戰。 以2.4GHz頻譜為例,雖然藍牙仍然是這個市場的主角,但Zigbee和Thread的熱度不斷上升。出於競爭或監管原因,許多公司還開發IEEE...
2024 年 04 月 15 日

電晶體/記憶體雙模式二維電子元件開啟新方向

隨著科技飛速的發展,半導體技術正面臨前所未有的挑戰。在國科會「Å世代前瞻半導體專案計畫」及學門計畫的支持下,由國立清華大學電子所蔡孟宇博士、研發長邱博文教授、國立中興大學物理系林彥甫教授和資工系吳俊霖教授等共同組成的研究團隊,成功開發出新穎的雙模式二維電子元件,不僅突破了傳統矽晶圓的物理限制,還為高效能運算和半導體製程簡化開啟了新的方向。這項研究成果已在2023年9月發表於國際知名學術期刊《自然電子》(Nature...
2024 年 01 月 17 日

通用處理器實現低精度神經網路 FP8規格訓練DNN模型有成

最近產業的典範轉移中,建立人工智慧(AI)系統可以從一般模型開始,透過使用自適應預先訓練模型,接著採用遷移學習(Transfer Learning)調整不同的下游任務,特別是透過Zero-shot、Few-shot、模型微調(Fine-tuning)和提示技術,都造就了規模不斷成長的Transformer模型。例如,GPT-3...
2022 年 12 月 15 日

意法AI開發工具支援深度量化神經網路

意法半導體(ST)推出STM32Cube.AI version 7.2.0,為微控制器(MCU)廠商推出之首款支援超高效深度量化神經網路的人工智慧(AI)開發工具。 STM32Cube.AI將預先訓練好的神經網路轉換成STM32微控制器,其可以執行優化的C語言程式碼,是充分利用嵌入式產品有限的記憶體容量,以及運算能力所開發出的尖端人工智慧解決方案重要工具,將人工智慧從雲端轉移到邊緣裝置,能夠為應用帶來優勢,其中包括原生隱私保護、確定性即時回應、更高的可靠性和更低的功耗。邊緣人工智慧還有助於優化雲端運算使用率。 現在,透過支援qKeras或Larq等深度量化輸入格式,開發者可以進一步降低神經網路程式碼量、記憶體占用和回應延遲,這些優勢為邊緣人工智慧提供出更多潛力,包括經濟型應用和成本考量應用。因此,開發者可以打造邊緣裝置,例如,兼具功能和性能之電池續航更長的自供電物聯網端點。從超低功耗Arm...
2022 年 12 月 09 日

ST嵌入式AI方案增加機器學習開發簡化功能

為擴大開發工具之功能並加速嵌入式人工智慧(AI)和機器學習(ML)開發專案,意法半導體(ST)推出NanoEdge AI Studio和STM32Cube.AI的升級版本。這兩個開發工具有助於將人工智慧和機器學習移轉到應用邊緣裝置。移轉到網路邊緣後,人工智慧和機器學習將有顯著優勢,包括原生隱私保護、確定性即時回應、更高可靠性和更低功耗。 NanoEdge...
2022 年 11 月 30 日

物件追蹤借力光流/移動向量 神經網路視訊辨識快又準確

AI晶片與AI辨識模型皆是針對單張影像辨識出影像內的物件,而許多應用場域皆是針對監控式攝影機所拍攝的視訊影像實現即時AI辨識,達到即時監控的目的,本文將介紹對於即時拍攝的大量影像該如何有效率地以AI完...
2022 年 03 月 14 日

專訪Imagination台灣業務總監林奐祥 光線追蹤讓手遊光影表現躍然機上

行動裝置蓬勃發展,手遊已是遊戲的主流,在裝置顯示能力不斷提升的同時,遊戲畫面也更加要求精細度與高更新率;為此,Imagination發表行動裝置使用的光線追蹤(Ray Tracing)技術,解決極耗運...
2021 年 09 月 27 日

Imagination光線追蹤技術 導入行動裝置應用里程碑

行動裝置蓬勃發展,手遊已是遊戲的主流,在裝置顯示能力不斷提升的同時,遊戲畫面也更加要求精細度與高更新率;為此,Imagination發表行動裝置使用的光線追蹤(Ray Tracing)技術,解決極耗運算的挑戰,實現行動裝置遊戲畫面光影變幻與反射的自然表現。 光線追蹤技術可以創造真實的光影折射與反射穿透效果 光線追蹤是追蹤光線從來源開始照射到物體上,再由物體反射的光線「路徑」,由於完整運算所有路徑十分消耗運算資源,因此現有光線追蹤技術僅運算目所能及的光線路徑。Imagination台灣業務總監林奐祥指出,光線投射到物件上,所產生明暗的改變,最後呈現在2D螢幕上;然而,由於「光源」的多樣性,導致光線追蹤運算的複雜性大增。因此,過去只有在插電的產品才能呈現相關的視覺效果,手機則難以達成。 傳統的光線反射是使用Cascaded...
2021 年 08 月 31 日

RRAM結合3D堆疊 記憶體內運算取得重大進展

法國研究機構CEA-Leti日前在IEDM 2020會議上發表兩篇論文,證明採用3D堆疊結構的可變電阻式記憶體(Resistive RAM, RRAM),可為記憶體內運算(In-memory Computing,...
2021 年 01 月 04 日

Maxim推神經網路加速器晶片 於電池供電設備實現IoT人工智慧

Maxim宣布推出帶有神經網路加速器的MAX78000低功耗微控制器,支援電池供電的嵌入式物聯網(IoT)設備在邊緣透過快速、低功耗人工智慧(AI)推理來制定複雜決策。與軟體方案相比,這種快速、低功耗的決策實施使得複雜的AI推理能耗降低到前期方案的百分之一以內,採用AI技術的電池供電系統可大幅延長其執行時間,有助於實現之前無法逾越的新一代電池供電AI應用。此外,MAX78000並沒有影響延遲指標和成本:其成本只是FPGA或GPU方案的零頭,而執行推理的速度比低功耗微控制器上實施的軟體方案快100倍。 AI技術使機器能夠以之前完全不可能的方式來觀察、聆聽和感知世界。過去,將AI推理布置到邊緣意謂著從感測器、相機和麥克風收集資料,然後將資料發送到雲端實現推理演算法,再將結果送回到邊緣。由於延遲和能耗較大,這種架構對於邊緣普及極具挑戰。作為替代方案,低功耗微控制器可用於實施簡單的神經網路運算,但延遲會受到影響,且只能在邊緣執行簡單任務。  透過整合專用的神經網路加速器,MAX78000克服了這些局限性,憑藉在本地以低功耗即時執行AI處理,使機器能夠看到和聽到複雜的型態。由於MAX78000執行推理的功耗不到微控制器軟體運行功耗的百分之一,大幅提高了機器視覺、語音和臉部識別等應用的工作效率。MAX78000的核心是專用硬體,其設計旨在最大程度地降低卷積神經網路(CNN)的能耗和延遲。該硬體運行時幾乎不需要任何微控制器的介入,意味著操作的流線化程度極高。能量和時間僅用於實施CNN的數學運算。為了將外部世界的採集資料高效輸入到CNN引擎,使用者可使用兩種整合微控制器核之一:低功耗ARM...
2020 年 10 月 26 日

恩智浦發表Glow神經網路編譯器 實現邊緣機器學習

恩智浦半導體(NXP)宣布eIQ機器學習(ML)軟體對Glow神經網路(Neural Network, NN)編譯器的支援功能,針對恩智浦的i.MX RT跨界微控制器,帶來能夠實現占用較低記憶體並提供更高效能的神經網路編譯器應用。Glow編譯器由Facebook開發,能夠整合特定目標的最佳化,恩智浦利用這種能力,使用適用於Arm...
2020 年 08 月 10 日