英特爾Xeon 6/Gaudi 3亮相 加速AI運算

英特爾(Intel)在台展示搭載效能核心(P-core)的Intel Xeon 6與Intel Gaudi 3 AI加速器的系統和解決方案,攜手智邦科技、安提國際、其陽科技、永擎電子、華碩電腦、仁寶電腦、鈺登科技、鴻海科技集團、技嘉科技、威強電、英業達、神雲科技、微星科技、和碩聯合科技、雲達科技(QCT)、神準科技、美超微、緯創資通、緯穎科技等合作夥伴共襄盛舉,共同推動資料中心發展與AI應用。英特爾也說明新一代產品如何協助企業讓資源運用最佳化,並透過開放平台有效率地運行大型語言模型(LLM)。現場亦展示了透過文字生成3D影像的LDM3D、檢索增強生成(RAG)、輔助醫生診斷及醫病問詢等AI應用,以及先進散熱解決方案,協助企業打造更永續的資料中心。 英特爾亞太暨日本區總經理莊秉翰表示,隨著AI運算需求日益成長,帶動資料中心和基礎設施大規模轉型,可擴充性、成本、能源效率和安全性成為企業當前關鍵考量因素。因應市場需求攀升,英特爾推出搭載P-core的Xeon...
2024 年 12 月 03 日

安提SC24展示高效能NVIDIA MGX邊緣AI伺服器

安提國際(Aetina)為宜鼎國際(Innodisk)集團子公司,首次登場美國超級運算大會Supercomputing 2024(SC24)展示旗下首款創新的NVIDIA MGX邊緣AI伺服器「SuperEdge...
2024 年 11 月 25 日

中國EV/AI發展現優勢 政策大力支援見效(1)

中國透過大量傾銷與政府補貼方式,在電動車領域獲得高度市占,AI技術研究與專利數目攀升。目前該趨勢延伸至半導體成熟製程的領域,台灣業者應高度關注中國如何發展先進產業,提早規畫因應策略。 目前中國政府大力...
2024 年 11 月 18 日

中國EV/AI發展現優勢 政策大力支援見效(2)

中國透過大量傾銷與政府補貼方式,在電動車領域獲得高度市占,AI技術研究與專利數目攀升。目前該趨勢延伸至半導體成熟製程的領域,台灣業者應高度關注中國如何發展先進產業,提早規畫因應策略。 (承前文)中國電動車也受益於生態系統的支持,包括從中國大學和研究機構進行的研發品質,到本地供應商深厚的在地生產能力。近年來,中國有關電動車和電動車電池的科學出版物的數量和品質顯著提升。澳洲戰略政策研究所(ASPI)發現,中國機構發表的有關電池的高影響力出版物占65.4%,大大超過美國的11.9%。而且,正如ASPI所寫,中國科學院在關鍵技術追蹤資料集中表現出色。它在八項能源和環境技術中的六項中處於領先地位,並且排名第一。同時,中國企業在電力推進領域的全球專利份額從2010年的2.4%增加到2020年的26.9%,成長了11倍。 雖然BMW與特斯拉等業者無疑仍處於全球電動車市場的主動地位,但比亞迪、小米和理想汽車等中國業者在豪華電動車層面展開競爭。而在中端市場,比亞迪、極氪、蔚來等公司在提供有吸引力,且具有成本競爭力的電動車方面表現出色。中國在電動車領域的領先地位,無疑是政府有意的產業政策和指導的結果,特別是透過密集的產業補貼大力開發市場。在這些基礎上,中國電動車企業本身的能力、創新力和競爭力正在持續提升。 人工智慧領域賣力追趕 美國由於前瞻技術研究和企業研發能量十足,長期以來在人工智慧領域處於領先地位,但中國堅持不懈的、國家驅動的方法正在迅速縮小差距。中國僅僅是複製技術的角色,這樣說法正在被其豐富的學術機構和創新研究的證據所取代。中國大多數領先的人工智慧新創公司,都是來自機構和創新研究產生。長遠來看,美國遏制中國在AI發展的努力不太可能奏效。如果美國在AI的技術發展不能保持領先地位,未來數年內,美國可能面臨技術進展被中國以驚人的速度和規模被超越的狀況。 中國在人工智慧領域的崛起,以一系列戰略目標為主,改變了其研究格局。多年來,中國的人工智慧研究數量令人印象深刻,儘管人們常常認為其品質落後於美國,這種觀點正在改變。如今,中國和美國在生成式人工智慧研究成果方面不相上下,各自貢獻數千篇論文,突破人工智慧所能實現的界限。然而,美國的研究往往在影響力方面處於領先地位,因為美國的研究文獻引用次數更高,以及更多私人企業的參與。而中國的研究正以後來追上之姿,企圖追上與美國研究直接競爭的領域。 清華大學是中國人工智慧革命的核心,已成為中國一些最有前途的人工智慧新創企業的溫床:智普AI、百川AI、Moonshot...
2024 年 11 月 18 日

資策會軟體院公布2025十大AI關鍵技術 AI Agent/邊緣AI上榜

生成式人工智慧(GAI)從2023年開始,帶動新一波的AI熱潮。在AI與大型語言模型的快速發展下,台灣廠商積極思考導入AI來提升企業競爭力,在國際上掌握更強大的競爭優勢。日前資策會軟體技術研究院在2024...
2024 年 11 月 08 日

Chiplet崛起 AI運算高成本有解

隨著摩爾定律的放緩與先進製程成本的不斷攀升,生成式人工智慧(AI)等應用的效能需求在短時間內快速成長,資料中心的耗能隨之攀升,小晶片(Chiplet)技術因此崛起。Arm基礎設施事業部硬體生態系總監Imran...
2024 年 11 月 04 日

宜鼎DDR5 6400記憶體助力生成式AI應用穩定扎根

宜鼎國際(Innodisk)推出DDR5 6400記憶體模組,具備單條64GB的業界最大容量。產品採用全新的CUDIMM與CSODIMM規格,增設CKD晶片(用戶端時脈驅動器)以提升傳輸訊號穩定性,並透過TVS(瞬態電壓抑制器)防止因電壓不穩造成元件毀損,為邊緣應用提供至關重要的高穩定度。 宜鼎DDR5...
2024 年 11 月 04 日

Arm整合PyTorch/ExecuTorch 加速雲端及邊緣AI開發

Arm近期宣布透過將Arm Kleidi技術整合到PyTorch和ExecuTorch,促使新一代的應用在Arm CPU上運行大語言模型(LLM)。Kleidi彙集了最新的開發人員賦能技術和關鍵資源,目標在於推動機器學習(ML)技術堆疊中的技術協作和創新。透過這些重要進展,Arm期望為每一位ML技術堆疊的開發人員提供更為順暢的體驗。 在雲端,Kleidi利用Arm...
2024 年 09 月 23 日

數位大腦結合大型語言模型  知識管理系統AI進化

在快速變化的商業環境中,知識管理已成為企業競爭力發揮的關鍵,若知識管理不當,企業極有可能面臨內部重要經驗流失、員工重複作業、誤用過時資料等情況,甚至影響到整體工作效率。叡揚資訊解決方案業務群資深顧問師方小欣指出,企業需要一個知識大腦來解決這些問題,Vitals...
2024 年 09 月 02 日

AI應用帶動市場需求 軟板產值重回成長軌道

根據台灣電路板協會與工研院產科所最新發布《2024全球軟板產業掃描與發展動態》,2024年全球軟板市場將從2023年的低迷中逐步復甦,市場規模(含軟硬結合板,以下同)有望達到197億美元,年增長7.3%。隨著AI應用在手機與電腦市場的逐漸普及,軟板需求有望持續升溫,預計2025年軟板市場將成長5.2%,達到207.2億美元,回復至2021年的水準。 全球軟板市場過去幾年經歷了顯著的波動,2020至2022年期間,新冠疫情帶動消費性電子產品的需求激增,推動了軟板產業的快速發展。但隨著疫情紅利的消退、終端庫存調整,以及全球經濟的不確定性,2023年全球軟板市場出現了明顯的下滑,較前一年下降7.9%,規模為183.6億美元。然而,近五年全球軟板市場大致呈現穩定增長,市場規模由2019年130.0億美元成長至2023年183.6億美元,年複合成長率達到8.9%。在全球電路板產值比重也由2019年的20.4%上升至2023年的24.6%。 若以廠商資金類別為基準,台商為最大軟板供應商,占整體產值約34.5%、其次為日本與中國,三地廠商總計囊括近九成全球軟板市場。以個別廠商來看,2023年前五大軟板廠分別為台廠臻鼎(19.5%)、中廠東山精密(14.4%)、日廠Mektron(14.0%)、韓廠BH(6.7%)、台廠台郡...
2024 年 08 月 19 日

TrendForce: 2024年AI SSD採購容量估破45EB

根據TrendForce最新的企業級SSD研究報告,由於AI需求大幅升溫,最近兩季AI伺服器相關客戶向供應商進一步追加企業級SSD訂單。上游供應商為了滿足SSD在AI應用上的供給,加速製程升級,開始規劃2YY產品,預期於2025年量產。 TrendForce表示,AI伺服器客戶對供應商加單的情況,導致企業級SSD合約價於2023年第四季至2024年第三季間的累積漲幅超過80%。SSD在AI發展扮演重要角色,除了在AI模型訓練過程中,SSD主要負責儲存模型參數,包含不斷演變的權重和偏差,另一項重要應用是創建檢查點(Check...
2024 年 08 月 15 日

產業全力克服AI幻覺 精準LLM近在眼前(1)

儘管人工智慧產生的幻覺可能令人擔憂,但該技術仍然是塑造產業以及開創未來的重要一環。AI服務供應商透過人機協作把關資料品質,盡可能提高生成式AI回覆的準確率。 人工智慧(AI)通常被視為有助於解決,目前許多迫切的社會問題的良策,其強大的功能包括:快如閃電的資料整理速度、準確的預測功能、無人可及的分類效率,上述應用案例不勝枚舉。但AI仍然是一項不斷發展、存在缺陷的技術,最近,「幻覺」成為了關於人工智慧的焦點議題。 具體而言,人工智慧可能對使用者提出一些不合常理的建議,比如在披薩上塗膠水,以免起司滑落。或者當AI被使用這要求進行法律研究時,它還會虛構整個法庭案件。然而,儘管存在這些幻覺問題,人工智慧仍然是一種備受依賴的工具,是企業、政府以及整個產業都將其作為營運工具的重要支柱。...
2024 年 07 月 18 日
1 2 3 ... 7