IMEC與格羅方德AI晶片大突破 神經網路運算聯手IoT邊緣設備 - 產業動態 - 新電子科技雜誌 Micro-electronics


熱門關鍵字:電源模組 | SiC | 機器視覺 | GaN | 5G

訂閱電子報

立刻輸入Email,獲取最新的資訊:


收藏功能:
分享報新知:
其他功能:

IMEC與格羅方德AI晶片大突破 神經網路運算聯手IoT邊緣設備

發布日期:2020/07/23 關鍵字:IMEC 格羅方德 GF AI晶片 IoT 范紐曼瓶頸

比利時微電子研究中心(IMEC)日前與格羅方德(GLOBALFOUNDRIES, GF)公開展示了全新AI晶片硬體。在IMEC類比記憶體式運算(AiMC)架構及格羅方德22FDX製程為基礎的前提下,這款全新晶片經過最佳化,並於類比環境中的記憶體式運算硬體進行深度神經網路運算。在達到2,900TOPS/W的創紀錄高能源效率後,加速器被視為低功率裝置進行邊緣運算推論的關鍵推手。這項新技術在隱私保護、安全性以及延遲性等各種優勢,將為智慧喇叭、自駕車等諸多邊緣設備的AI應用程式帶來衝擊性的影響。

使用大量數據的作業時,需要從記憶體取回一樣數量的數據元素,此一限制稱為「范紐曼瓶頸」(Von Neumann Bottleneck),會拖慢實際的運算速度,特別是在神經網路這種大量依賴向量矩陣乘法的運算中。這些運算除了仰賴數位電腦的精準度外,還需要大量的能源。然而,若以準確度較低的類比技術執行向量矩陣乘法,神經網路一樣可以獲得精確的結果。

為了因應這個挑戰,IMEC透過旗下的產業聯合機器學習計畫,與格羅方德等產業夥伴開發了一套新架構:在靜態隨機存取記憶體單元(SRAM Cells)中執行類比運算,藉此消除「范紐曼瓶頸」的限制。以此開發的類比推論加速器(AnIA),則以格羅方德的22FDX製程半導體平台為基礎,具有出色的能源效率。特徵測試顯示,其能源效率高達2,900TOPS/W。微型感應器及低功率邊緣設備中的圖形識別,一般得仰賴數據中心的機器學習,如今可透過此一高效能加速器在地執行。

研討會專區
熱門文章