熱門關鍵字:ADAS | 藍牙5 | NB-IoT | AI | 工業4.0

訂閱電子報

立刻輸入Email,獲取最新的資訊:

收藏功能:
分享報新知:
其他功能:

FPGA火力支援 微軟發表Project Brainwave

文‧黃繼寬 發布日期:2017/08/24 關鍵字:DNN英特爾TensorflowDPU

軟體業者為了強化人工智慧演算法的執行效率,紛紛跨足硬體設計。繼Google、Facebook之後,微軟(Microsoft)近日也發表了自家的Project Brainwave平台。該平台以英特爾(Intel)提供的Stratix 10現場可編程閘陣列(FPGA)為基礎,除了內建深度神經網路(DNN)加速引擎外,在軟體堆疊方面,還可支援Google的Tensorflow、微軟自家的Cognitive Toolkit等深度學習框架。

微軟傑出工程師Doug Burger指出,在硬體層面,Project Brainwave是一個以FPGA為基礎的高性能DNN處理平台。微軟已經將高性能FPGA應用在自家的資料中心多年,讓該公司可以為DNN運算提供硬體微服務(Hardware Microservices),亦即將DNN映射到遠端的大量FPGA上,透過呼叫伺服器的方式來執行。這個系統架構對於降低延遲、提高資料吞吐量有很大的幫助,因為外部輸入的需求不須透過CPU處理,而FPGA可以用很快的速度來回應外部提出的需求。

其次,Project Brainwave的FPGA上合成(Synthesize)了軟式DNN處理單元(DPU)。雖然許多公司都採取硬體線路的方式來實作DPU,以便實現最高的運算效能,但這種方法也令DNN的靈活性受到限制,例如資料型態、運算子(Operator)的選擇,都會受限於晶片本身的設計。軟式DNN則沒有這個問題,其可支援的資料型態是在合成的時候決定的。Project Brainwave所使用的FPGA結合了硬體數位訊號處理單元與可合成的邏輯,提供比純ASIC更大量、更最佳化的功能單元。這個設計架構有兩大好處,一是允許高度客製化、窄精度的資料型態,可提高性能又不損失模型的精準性,二是可以在幾周內支援新的演算法。整體來說,以FPGA為基礎的DPU,在性能上並不遜於以硬體實作的DPU,甚至有過之而無不及。

第三,Project Brainwave搭載了可支援眾多主流深度學習框架的軟體堆疊,目前已可支援微軟自家的Cognitive Toolkit以及Google的Tensorflow,未來還將支援更多深度學習框架。

微軟的Project Brainwave是以英特爾的14奈米Stratix 10 FPGA作為核心晶片。

研討會專區
熱門文章