多模態/AI Agent多點開花 生成式AI生態系漸成型

2024年可說是AI技術快速進展的同時,全球企業都在探索如何應用生成式AI,以及持續克服基礎建設挑戰,包含伺服器散熱、高速資料傳輸技術與記憶體應用的一年。生成式AI協助使用者生成文字、圖片、影像與程式碼等內容,也能學習特定企業的內部資料,應用於線上客服或者內部資料查詢。多模態模型的應用,協助AI軟體判讀文字、圖片、影像與音訊的內容,優化各行各業的工作流程。除了大型語言模型(LLM)逐漸發展出客製化模型,也有小型化的模型導入到邊緣端,升級現有的終端智慧應用。...
2024 年 12 月 03 日

英特爾Xeon 6/Gaudi 3亮相 加速AI運算

英特爾(Intel)在台展示搭載效能核心(P-core)的Intel Xeon 6與Intel Gaudi 3 AI加速器的系統和解決方案,攜手智邦科技、安提國際、其陽科技、永擎電子、華碩電腦、仁寶電腦、鈺登科技、鴻海科技集團、技嘉科技、威強電、英業達、神雲科技、微星科技、和碩聯合科技、雲達科技(QCT)、神準科技、美超微、緯創資通、緯穎科技等合作夥伴共襄盛舉,共同推動資料中心發展與AI應用。英特爾也說明新一代產品如何協助企業讓資源運用最佳化,並透過開放平台有效率地運行大型語言模型(LLM)。現場亦展示了透過文字生成3D影像的LDM3D、檢索增強生成(RAG)、輔助醫生診斷及醫病問詢等AI應用,以及先進散熱解決方案,協助企業打造更永續的資料中心。...
2024 年 12 月 03 日

安提SC24展示高效能NVIDIA MGX邊緣AI伺服器

安提國際(Aetina)為宜鼎國際(Innodisk)集團子公司,首次登場美國超級運算大會Supercomputing 2024(SC24)展示旗下首款創新的NVIDIA MGX邊緣AI伺服器「SuperEdge...
2024 年 11 月 25 日

中國EV/AI發展現優勢 政策大力支援見效(1)

中國透過大量傾銷與政府補貼方式,在電動車領域獲得高度市占,AI技術研究與專利數目攀升。目前該趨勢延伸至半導體成熟製程的領域,台灣業者應高度關注中國如何發展先進產業,提早規畫因應策略。 目前中國政府大力推動技術自主,對全球與台灣產業帶來不小的威脅。中國透過大量傾銷與政府補貼方式,在太陽能、電動車、機器人領域獲得高度市占。目前該趨勢延伸至半導體成熟製程的領域,台灣業者應高度關注中國如何發展先進產業,提早規畫因應策略。...
2024 年 11 月 18 日

中國EV/AI發展現優勢 政策大力支援見效(2)

中國透過大量傾銷與政府補貼方式,在電動車領域獲得高度市占,AI技術研究與專利數目攀升。目前該趨勢延伸至半導體成熟製程的領域,台灣業者應高度關注中國如何發展先進產業,提早規畫因應策略。 (承前文)中國電動車也受益於生態系統的支持,包括從中國大學和研究機構進行的研發品質,到本地供應商深厚的在地生產能力。近年來,中國有關電動車和電動車電池的科學出版物的數量和品質顯著提升。澳洲戰略政策研究所(ASPI)發現,中國機構發表的有關電池的高影響力出版物占65.4%,大大超過美國的11.9%。而且,正如ASPI所寫,中國科學院在關鍵技術追蹤資料集中表現出色。它在八項能源和環境技術中的六項中處於領先地位,並且排名第一。同時,中國企業在電力推進領域的全球專利份額從2010年的2.4%增加到2020年的26.9%,成長了11倍。...
2024 年 11 月 18 日

資策會軟體院公布2025十大AI關鍵技術 AI Agent/邊緣AI上榜

生成式人工智慧(GAI)從2023年開始,帶動新一波的AI熱潮。在AI與大型語言模型的快速發展下,台灣廠商積極思考導入AI來提升企業競爭力,在國際上掌握更強大的競爭優勢。日前資策會軟體技術研究院在2024...
2024 年 11 月 08 日

Chiplet崛起 AI運算高成本有解

隨著摩爾定律的放緩與先進製程成本的不斷攀升,生成式人工智慧(AI)等應用的效能需求在短時間內快速成長,資料中心的耗能隨之攀升,小晶片(Chiplet)技術因此崛起。Arm基礎設施事業部硬體生態系總監Imran...
2024 年 11 月 04 日

宜鼎DDR5 6400記憶體助力生成式AI應用穩定扎根

宜鼎國際(Innodisk)推出DDR5 6400記憶體模組,具備單條64GB的業界最大容量。產品採用全新的CUDIMM與CSODIMM規格,增設CKD晶片(用戶端時脈驅動器)以提升傳輸訊號穩定性,並透過TVS(瞬態電壓抑制器)防止因電壓不穩造成元件毀損,為邊緣應用提供至關重要的高穩定度。...
2024 年 11 月 04 日

Arm整合PyTorch/ExecuTorch 加速雲端及邊緣AI開發

Arm近期宣布透過將Arm Kleidi技術整合到PyTorch和ExecuTorch,促使新一代的應用在Arm CPU上運行大語言模型(LLM)。Kleidi彙集了最新的開發人員賦能技術和關鍵資源,目標在於推動機器學習(ML)技術堆疊中的技術協作和創新。透過這些重要進展,Arm期望為每一位ML技術堆疊的開發人員提供更為順暢的體驗。...
2024 年 09 月 23 日

數位大腦結合大型語言模型  知識管理系統AI進化

在快速變化的商業環境中,知識管理已成為企業競爭力發揮的關鍵,若知識管理不當,企業極有可能面臨內部重要經驗流失、員工重複作業、誤用過時資料等情況,甚至影響到整體工作效率。叡揚資訊解決方案業務群資深顧問師方小欣指出,企業需要一個知識大腦來解決這些問題,Vitals...
2024 年 09 月 02 日

AI應用帶動市場需求 軟板產值重回成長軌道

根據台灣電路板協會與工研院產科所最新發布《2024全球軟板產業掃描與發展動態》,2024年全球軟板市場將從2023年的低迷中逐步復甦,市場規模(含軟硬結合板,以下同)有望達到197億美元,年增長7.3%。隨著AI應用在手機與電腦市場的逐漸普及,軟板需求有望持續升溫,預計2025年軟板市場將成長5.2%,達到207.2億美元,回復至2021年的水準。...
2024 年 08 月 19 日

TrendForce: 2024年AI SSD採購容量估破45EB

根據TrendForce最新的企業級SSD研究報告,由於AI需求大幅升溫,最近兩季AI伺服器相關客戶向供應商進一步追加企業級SSD訂單。上游供應商為了滿足SSD在AI應用上的供給,加速製程升級,開始規劃2YY產品,預期於2025年量產。...
2024 年 08 月 15 日