隨著人工智慧應用從雲端向終端設備擴展,Edge AI市場正經歷前所未有的快速成長與變革。根據產業研究資料顯示,2023年全球Edge AI市場規模已達數百億美元,預計2025年將以超過25%的年複合成長率擴張。
在這波邊緣AI浪潮中,企業面臨成本、效能與部署複雜度之間的平衡挑戰。「我們的核心理念是讓AI功能能夠無縫整合到既有系統架構中,讓客戶無需大幅改變硬體或支付過高成本,就能獲得顯著的AI效能提升,」英特爾客戶端邊緣運算事業群平台研發協理王宗業表示。為解決系統設計的問題,英特爾推出Edge AI System與Edge AI Suite系列解決方案,整合從硬體到軟體的全面支援,加速企業邊緣AI應用的開發與部署。
圖說:王宗業表示Edge AI應用場景從「海底到外太空」皆有
需求多元價格不一,成本效益成關鍵
Edge AI應用場景從「海底到外太空」皆有,不同產業對效能、功耗與成本的要求差異顯著。「我們曾拜訪某面板廠客戶,他們表示每分鐘處理五張影像已足夠,因為生產一片面板本身就需要兩三分鐘;而交通監控系統則需要每秒處理30幀,甚至更高速度。」這種需求多樣性使得邊緣AI解決方案難以一體適用。
圖說:不同邊緣AI應用都開始往生成式AI前進。/來源:英特爾
英特爾觀察到部署挑戰:「有客戶想導入高性能GPU解決方案,但發現每台設備耗電超過3000瓦,需要額外拉電源線,對一般企業環境不切實際。」為滿足多元需求,英特爾提供從Atom、Core到Xeon等不同等級的處理器,搭配整合GPU的解決方案,讓客戶能依應用場景選擇適合產品。
「我們開發sizing工具,協助客戶評估工作負載需求,精準選擇不過度投資的解決方案,」王宗業強調,這種彈性策略讓客戶能以最佳成本效益部署Edge AI。
效能逐代提升,升級無需重新驗證
英特爾採取「軟體優先」策略,確保每代產品在維持功耗與價格穩定的同時,提供更強大的AI運算能力。「從Meteor Lake到Arrow Lake,我們的整合GPU AI效能從60-70 TOPS提升到120 TOPS,幾乎翻倍,」王宗業解釋,「這種進步來自架構設計與製程技術的改進。」
英特爾的優勢在於長期累積的x86架構基礎,確保新舊系統相容性。「我們讓客戶的現有系統能無縫升級,不需全面重新驗證。許多客戶嘗試過效能很好的新方案,但整合到既有環境需要大量驗證工作,風險太高。相較之下,我們的方案只需驗證新增的AI功能,大幅降低轉換成本。」
這種策略特別適合企業市場,他們比消費市場更注重穩定性和長期支援。「在產業應用中,客戶最在意的是重現性和穩定性,而非純粹的效能數字。有些技術展示效能很高,但實際應用中缺乏一致性,對企業來說是不可接受的風險。」
開源策略成效顯著,導入時程大幅縮短
英特爾積極擴展開源工具與參考設計,降低企業導入AI的技術門檻。「許多企業想要導入AI,但不知從何開始。我們的Edge AI System和Edge AI Suite就是解決這個問題的方案,」王宗業說明。
他分享一個醫療新創的案例:「有家開發肺部聲音偵測技術的新創公司來找我們,原本估計需要一週時間移植AI模型。使用我們的參考程式碼後,僅一小時就完成了整個轉換過程。」
英特爾積極推動OpenVINO、SYCL等開源工具,支援PyTorch、TensorFlow等主流AI框架,使開發者能在熟悉環境中開發邊緣AI應用。「我們在Linux kernel的commit數量長期保持業界最高,這反映了對開源社群的深度投入。」
這種開放策略成為競爭優勢:「許多客戶最初嘗試低成本解決方案,但隨著應用需求增加,最終回到英特爾平台,因為我們提供更完整的生態系統和豐富的開發資源。」英特爾的詳盡文件也備受讚賞:「有客戶告訴我們,他們曾使用某公司產品,整個產品就只有一頁文件。相比之下,英特爾的文件詳盡到幾乎需要AI來幫忙搜尋。」
管理功能齊全完善,維運成本顯著下降
在Edge AI的完整生命週期中,部署後的管理和維護同樣關鍵。英特爾的Open Edge Platform提供遠端監控、故障恢復等企業級功能。「我們曾與桃園警察局合作,他們擁有近兩萬台監控設備。以前設備在遠處故障,必須派人開車前往,光車程成本就高達數千元。透過我們的vPro技術,現在可以遠端重啟和管理這些設備,大幅降低維運成本。」
這種從開發到部署再到維運的完整解決方案,使英特爾在企業級Edge AI市場中具有獨特優勢。
展望未來,王宗業認為Edge AI將持續向各行業滲透:「越來越多傳統產業從最初不信任AI到逐漸接受,再到現在視為必要功能。就像智慧型手機螢幕從3.2吋擴大到現在的6、7吋,使用者對AI功能的需求只會增加。」