生成式狂潮拉抬HBM 台卡位AI記憶體客製/平價商機

在生成式人工智慧(AI)的帶動之下,記憶體的市場成長力道強勁,由DDR5 與高頻寬記憶體(HBM)帶頭迎來復甦。過去記憶體產業受到景氣循環影響,疫情後接連面臨消費電子庫存與通膨的衝擊,市場一度疲軟。目前則隨著生成式AI應用開枝散葉,訓練大型語言模型(LLM)需要更高的記憶體容量與傳輸速度支援。台灣在其中可望基於深厚的半導體技術,發展用於邊緣運算的DRAM、Wafer...
2024 年 04 月 29 日

HBM實現全方位AI DRAM堆疊更上層樓

關於高頻寬記憶體(HBM)的討論非常熱烈。隨著人工智慧(AI)的不斷發展,市場對於HBM的需求也不斷增加。許多大型科技公司都在HBM上投注資源,以滿足客戶的需求。HBM是一種進階的電腦記憶體,旨在以更低的耗能提供更快的資料存取速度。對於人工智慧而言,HBMs可以成為提升效能和降低記憶體晶片功耗的關鍵組成。...
2024 年 04 月 19 日

2024台灣半導體產值達台幣4.17兆 成長13.6%

綜觀2024年全球半導體市場,庫存調整已接近尾聲。終端應用產品出貨恢復正成長,加上車用、高效能運算(HPC)與AIoT等長期需求支持,對半導體產業復甦有正面助益,預估2024年全球半導體市場規模將恢復正成長。資策會產業情報研究所(MIC)於2024年4/16-4/18舉辦第37屆MIC...
2024 年 04 月 18 日

HBM整合難關重重 PhRC縮短產品上市時間

在不斷進化的半導體技術領域中,高頻寬記憶體(HBM)受到越來越多關注,HBM所提供的效能,遠遠勝過雙倍資料速率(DDR)和SDRAM等傳統記憶體技術,徹底改變電子產品的硬體規格。 使用高頻寬記憶體已成為高效能運算(HPC)CPU、GPU和AI應用的基本要件。然而,高頻寬記憶體整合,為封裝設計師帶來重大挑戰,因為這種封裝具有獨特的架構和嚴格的效能要求。筆者將探究高頻寬記憶體整合方法論的複雜性,並討論創新的方法如何克服這些障礙。...
2024 年 04 月 15 日

2023年DRAM產業急拉尾盤 今年可望重返獲利

根據研究機構Yole Group最新發表的統計報告指出,受到庫存修正等因素影響,2023年是DRAM產業自2016年以來表現最差的一年,整體產業的營收規模僅達520億美元,幾乎所有供應商都陷入虧損狀態。...
2024 年 04 月 01 日

DRAM市場走出衰退陰霾 大廠轉虧為盈就看第三季

根據TrendForce研究顯示,受惠於AI伺服器需求攀升,帶動HBM出貨成長,加上客戶端DDR5的備貨潮,使得三大原廠出貨量均有成長,第二季DRAM產業營收約114.3億美元,季增20.4%,終結連續三個季度的跌勢。其中,SK海力士(SK...
2023 年 08 月 28 日

AI應用拉高記憶體需求 DRAM/HBM同步受惠

根據TrendForce調查,AI伺服器可望帶動記憶體需求成長,以現階段而言, Server DRAM普遍配置約為500~600GB左右,而AI伺服器在單條模組上則多採64~128GB,平均容量可達1.2~1.7TB之間。以Enterprise...
2023 年 04 月 20 日

從ChatGPT透析國力競爭/中國AI發展(2)

ChatGPT為人工智慧(AI) 取得了階段式的勝利,甚至引爆了全社會對生成式AI和大模型技術的關注。AI大模型由於參數量大, 需要更大體量的資料和更高的算力支撐,因此對晶片用量的更大需求、晶片規格的更高要求,已經成為明顯趨勢。...
2023 年 03 月 28 日

從ChatGPT透析國力競爭/中國AI發展(1)

ChatGPT為人工智慧(AI) 取得了階段式的勝利,甚至引爆了全社會對生成式AI和大模型技術的關注。AI大模型由於參數量大, 需要更大體量的資料和更高的算力支撐,因此對晶片用量的更大需求、晶片規格的更高要求,已經成為明顯趨勢。...
2023 年 03 月 28 日

記憶體頻寬限縮晶片算力 存算一體AI晶片大有可為

架構就像是晶片的基因,直接決定了晶片的進步空間。這也是後摩爾定律時代,新型態晶片崛起的根本原因。大量的資料、有效的演算法以及足夠的算力結合,推動了人工智慧(AI)的高速發展。但也不得不看清一個嚴峻的現實,資料量越來越大,資料類型越來越多。各種演算法日新月異,高速發展,與此同時,算力的提升卻顯得趕不新技術的進展,甚至落後於資料和演算法的需求,尤其在運算場景對高頻寬、低功耗需求持續增加的趨勢下。此外,加上晶片製程的進步趨近極限,可大規模商用的新型材料暫時還沒出現,因此在晶片架構上的探索成為提高晶片性能最重要的手段之一。...
2023 年 03 月 04 日

賽靈思HBM技術助力Sony新現場製作視訊切換器

賽靈思(Xilinx)宣布,其現場可編程邏輯閘陣列(FPGA)和自行調適系統單晶片(SoC)為Sony專業音視訊應用的一系列電子產品帶來助力,包含新型XVS-G1和4K現場製作切換器(Live Production...
2021 年 10 月 06 日

迎向網路/雲端大數據運算挑戰 賽靈思Versal HBM系列亮相

賽靈思日前推出Versal HBM自行調適運算加速平台(ACAP),這是Versal產品組合的新產品系列,在單一平台上融合了高速記憶體、安全連接和靈活應變的運算。Versal HBM ACAP整合HBM2e...
2021 年 07 月 20 日