超微全力布局生成式AI 從雲到端一網打盡

超微(AMD)執行長蘇姿丰在COMPUTEX2024的開幕主題演說中,詳細介紹了一系列新的CPU、NPU和GPU架構,完整涵蓋從資料中心到個人電腦等不同的生成式AI應用需求。在資料中心方面,超微揭露其Instinct加速器的發展路線圖,包括將於2024年第四季度推出,採用HBM3E記憶體,容量高達288GB的Instinct...
2024 年 06 月 03 日

RTX AI PC亮相 黃仁勳:數位人類應用可期

NVIDIA執行長黃仁勳在Computex2024主題演講中,圍繞著加速運算與人工智慧(AI)兩大主軸,提到生成式AI在多元領域的應用,以及NVIDIA在軟、硬體提供相應的解決方案。由於AI應用的算力需求飛快成長,運算的成本包含資料中心的用電等也在上升。因此NVIDIA透過CUDA提升CPU的效能,加速每個應用程式的運算效率。同時在CPU的運算中加入GPU,不只效能運算大幅增加,也能節省大量成本,達到「買越多、省越多」的效益。...
2024 年 06 月 03 日

算力/記憶體容量/低功耗技術缺一不可 GAI導入邊緣開發大顯神通(1)

生成式AI啟動新一波的AI應用熱潮,將LLM導入邊緣端,需要足夠的記憶體容量,確保AI模型順利執行。將SSD用於AI運算,以及In-Memory Compute的技術進展,都讓邊緣端的算力更上層樓。 生成式人工智慧(AI)啟動新一波的AI應用熱潮,而邊緣AI高度安全、低延遲等優勢,也帶動大型語言模型(LLM)在終端裝置中的應用。將LLM導入邊緣端,需要足夠的記憶體容量,確保AI模型順利執行。將SSD用於AI運算,以及In-Memory...
2024 年 06 月 03 日

算力/記憶體容量/低功耗技術缺一不可 GAI導入邊緣開發大顯神通(2)

生成式AI啟動新一波的AI應用熱潮,將LLM導入邊緣端,需要足夠的記憶體容量,確保AI模型順利執行。將SSD用於AI運算,以及In-Memory Compute的技術進展,都讓邊緣端的算力更上層樓。 SSD支援AI運算空間...
2024 年 06 月 03 日

算力/記憶體容量/低功耗技術缺一不可 GAI導入邊緣開發大顯神通(3)

生成式AI啟動新一波的AI應用熱潮,將LLM導入邊緣端,需要足夠的記憶體容量,確保AI模型順利執行。將SSD用於AI運算,以及In-Memory Compute的技術進展,都讓邊緣端的算力更上層樓。 CXL加快裝置資料傳輸...
2024 年 06 月 03 日

Retimer力保高速訊號完整性 AsteraLabs解決AI性能需求/傳輸瓶頸

生成式AI時代降臨,資料中心無時無刻進行高速運算,無論是模型訓練或推論。為發揮最高算力、降低耗電量/發熱量,維持訊號完整性便成為AI伺服器的一大重點,PCIe Gen6成為高階AI伺服器的主要匯流排,頻寬高達64...
2024 年 05 月 31 日

400G/800G光收發器模組需求大爆發

根據Yole Group近期發表的《Optical Transceivers for Datacom and Telecom 2024》報告指出,2023年全球光通訊模組市場規模為109億美元,比2022年的110億美元微幅下滑。但由於生成式AI熱潮帶動資料中心對高速光通訊介面的需求,Yole預期此光通訊模組市場的規模到2029年時,將成長到224億美元。...
2024 年 05 月 30 日

瞄準AI商機 SiTime MEMS整合時脈產生器精準度提升十倍

人工智慧(AI)熱潮席捲科技產業,也創造高經濟效益,針對AI資料中心運算所需,是現階段多數廠商追求的重點,AI硬體的快速升級週期將會是執行資料和運算密集型AI工作負載的重要關鍵。AI的高速運算對於設備的硬體需求大幅提高,AI伺服器的時鐘需要精準無誤,SiTime透過高度整合的微機電技術,將傳統時脈的精準度再度提高。...
2024 年 05 月 30 日

搶攻AI商機 創鑫智慧打造端到端RAG方案

致力研發高能效AI ASIC的台灣IC設計公司創鑫智慧,將在2024台北國際電腦展(COMPUTEX 2024)中推出端對端的檢索增強生成(Retrieval-Augmented Generation,...
2024 年 05 月 29 日

Intel分享亞太地區AI成熟度並提三建議

英特爾日前舉辦2024年亞太地區AI趨勢洞察分享會,分享市場調研機構國際數據資訊(IDC)所作亞太地區AI成熟度研究報告(由英特爾贊助),揭示亞太地區八個市場(澳洲、印度、印尼、日本、韓國、馬來西亞、新加坡和台灣)的AI成熟度和競爭力,整理並預測各地投資AI現況與不同AI類型發展。英特爾並分享三大AI發展建議與在台兩成功案例,期望協助台灣持續推進AI發展。...
2024 年 05 月 29 日

聽覺體驗邁入全新境界 AI/LE Audio玩轉音訊新可能(1)

耳機、智慧音箱等音訊裝置正逐漸成為日常生活中的必需品,使用者對於音訊品質和多元功能的要求也隨之提高。音訊技術持續向前,除了優化既有聆聽體驗,也將透過新興技術找到全新應用,未來發展不可限量。 耳機已經成為生活中越來越不可分割的穿戴式裝置,而隨著音訊體驗的廣泛普及,使用者對於音訊品質的要求也越來越高。因此,嵌入式系統的音訊設計需要同步演進,以打造更沉浸式、更乾淨的音訊。此外,藍牙低功耗音訊(LE...
2024 年 05 月 28 日

聽覺體驗邁入全新境界 AI/LE Audio玩轉音訊新可能(2)

耳機、智慧音箱等音訊裝置正逐漸成為日常生活中的必需品,使用者對於音訊品質和多元功能的要求也隨之提高。音訊技術持續向前,除了優化既有聆聽體驗,也將透過新興技術找到全新應用,未來發展不可限量。 功耗/延遲同步降低 LE...
2024 年 05 月 28 日