FPGA設計工具/IP支援到位 AI邊緣推論開發更敏捷
設計人員若想在邊緣的推論處理器上實作人工智慧(AI)，單單為了降低功耗和縮短開發時間就已承受源源不斷的壓力，更何況處理需求還不斷增加。現場可編程閘極陣列(FPGA)尤其兼具速度和能源效率，能有效實作邊緣AI所需的神經網路(NN)推論引擎。然而，對於不熟悉FPGA的開發人員來說，傳統的FPGA開發方式可能比較複雜，導致開發人員經常退而求其次，改用其他方案。
AI邊緣推論好處多
邊緣運算可在工業自動化、安全系統、智慧家庭等不同領域的物聯網(IoT)應用中，帶來許多優點。在針對廠區的工業物聯網(IIoT)應用中，邊緣運算可消除雲端應用的往返延遲，大幅改善流程控制迴路中的反應時間。同樣地，即使雲端連線遭到意外或蓄意中斷，邊緣型安全系統或智慧家庭門鎖仍可持續運作。
由於機器學習(ML)推論模型迅速受到採納，並且需求不斷增加，邊緣運算的重要性也大幅提升。對於開發人員來說，本機處理推論模型不僅有助於降低反應延遲，亦可降低雲端推論所需的雲端資源成本。對使用者來說，即使網路連線偶有中斷，或廠商的雲端產品項目有所變化，透過本機推論模型，就可安心知道，產品可持續運作。
開發視覺式物件偵測用的神經網路推論模型是一個多步驟流程；首先需進行模型訓練，一般都是在TensorFlow等機器學習框架上，使用公開可用的標籤圖像或客製化標籤圖像進行訓練。為了因應處理需求，通常會透過雲端或其他高效能運算平台的圖形處理單元(GPU)來訓練模型。一旦訓練完成，模型會轉換成能在邊緣或霧運算等資源上運作的推論模型，並將推論結果以一組物件類型機率的型式呈現(圖1)。
圖1 要實作邊緣AI推論模型，需要使用現有或客製化的訓練資料框架，以便針對神經網路進行訓練和最佳化 (資料來源：Microchip...
2022 年 05 月 26 日
