HBM實現全方位AI DRAM堆疊更上層樓

作者: CheePing Lee
2024 年 04 月 19 日
關於高頻寬記憶體(HBM)的討論非常熱烈。隨著人工智慧(AI)的不斷發展,市場對於HBM的需求也不斷增加。許多大型科技公司都在HBM上投注資源,以滿足客戶的需求。HBM是一種進階的電腦記憶體,旨在以更低的耗能提供更快的資料存取速度。對於人工智慧而言,HBMs可以成為提升效能和降低記憶體晶片功耗的關鍵組成。 HBM採用3D堆疊技術,利用先進的封裝技術將多層元件垂直整合。將專用的動態隨機存取記憶體(DRAM)晶片垂直堆疊,並透過高速通道將它們連接起來,可實現執行複雜人工智慧任務所需的快速數據交換。新興成長驅動因素如生成式人工智慧和資料處理等應用,雖處於起步的階段,但可預期將帶動HBM的市場潛力保持強勁。 凸塊和TSV實現HBM3 HBM3是目前這一代的HBM,它有兩個關鍵元件,可以增加垂直堆疊積體電路(也稱為晶粒)的數量,進而提高記憶體容量和效能。第一種是微凸塊,即在晶粒上形成的微小焊點。第二種是矽穿孔(TSV),它是從晶圓正面策略性蝕刻並填充銅的孔洞。記憶體晶粒透過一系列TSV連接在一起。然後,連接的微型凸塊,將在記憶體模組中堆疊封裝的裝置之間建立小型、快速的電氣連接。 數位化應用 機器學習 HBM的獨特設計有利於在處理器和記憶體之間快速傳輸資料,進而最佳化人工智慧任務,例如機器學習與人工智慧。人工智慧訓練和推論是機器學習的兩個不同階段,訓練是指人工智慧從資料中學習,更新參數以找到模式或規則,並將每個輸入對應到特定輸出。人工智慧推論是指人工智慧系統使用訓練有素的模型對新資料進行預測,而無需人工干預。 機器學習和人工智慧的一個範例就是Siri或Alexa這樣的虛擬助手。這些人工智慧系統使用機器學習演算法來理解和回應使用者的指令和詢問。 自動駕駛 如果要實現自動駕駛,人工智慧需要在不受人類駕駛影響的情況下進行規畫和行動,這就需要進行資料密集型處理。人工智慧的影像識別、決策能力、感官功能以及資料建模能力可以透過高頻寬記憶體同時實現。 影像辨識 影像識別使用的是機器學習的分支,即深度學習。透過各種演算法,人工智慧可以分析成千上萬的影像和海量資料。影像識別的一個範例是Google...
》想看更多內容?快來【免費加入會員】【登入會員】,享受更多閱讀文章的權限喔!
標籤
相關文章

可靠度分析/設備解方助力3D封裝

2023 年 09 月 05 日

缺乏EDA工具支援 3D IC設計進展牛步

2010 年 01 月 18 日

後段驗證流程待突破 3D IC量產化挑戰重重

2010 年 02 月 22 日

FOWLP/3D IC加劇缺陷問題 先進封裝檢測技術重要性日增

2016 年 04 月 10 日

嵌入式運算設備追求小型化 3D封裝解決POL散熱難題

2017 年 08 月 14 日

AI人機協作降半導體製程開發成本(3)

2023 年 10 月 27 日
前一篇
SRAM修復技術強化可靠度 克服先進製程良率挑戰
下一篇
機器人雜訊強度將受管制 雜訊抑制對策勢在必行(2-2)