非x86陣營搶進AI PC 生態系成熟度定勝負(2)

為搶食AI應用進駐PC等終端裝置所帶來的商機,Arm陣營的業者也有相當積極的動作,不讓x86陣營專美於前。但在軟體生態系方面,除了蘋果之外,泛安謀陣營恐怕還有許多障礙需要克服。 資料儲存效能的重要性將陸續浮現...
2024 年 01 月 07 日

PC生態系龍頭火力全開 AI PC來勢洶洶(1)

隨著生成式AI爆紅,PC產業三巨頭英特爾、超微與微軟,都將支援生成式AI作為下一代產品的主要賣點,並希望藉此帶動新一波PC換機潮。 自OpenAI正式發表ChatGPT,為AI技術發展再掀一波新熱潮以來,生成式AI就一直是科技業內的熱門關鍵字。伺服器與高效能運算無疑是生成式AI風潮的第一波受益者,從晶片供應商到伺服器OEM、ODM,都已經享受到生成式AI所帶來的股價跟營收紅利。...
2024 年 01 月 04 日

PC生態系龍頭火力全開 AI PC來勢洶洶(2)

隨著生成式AI爆紅,PC產業三巨頭英特爾、超微與微軟,都將支援生成式AI作為下一代產品的主要賣點,並希望藉此帶動新一波PC換機潮。 軟體生態分化 開發者支援更形關鍵 但也因為每家處理器業者所採用的硬體架構不同,加上AI對硬體效能的需求本來就遠高於典型的PC應用軟體,導致軟體開發者有必要針對不同的硬體平台推出對應的最佳化版本。...
2024 年 01 月 03 日

軟硬體各提新解方 生成式AI突破運作成本挑戰

LLM或生成式AI需要極為龐大的運算能力支撐,並使得這類技術的開發跟使用成本異常高昂。因此,軟體業者正在追求更輕量化的LLM,硬體業者則試圖用架構創新來滿足LLM的效能需求。 大型語言模型(Large...
2023 年 12 月 11 日

推動可信任AI發展 數發部啟動「AI產品與系統評測中心」

AI新興科技發展日新月異,數位發展部已展開AI評測工作,並在12月6日於台北科技大學舉辦「AI產品與系統評測中心」啟動活動,由數位部部長唐鳳、行政院政委兼國科會主委吳政忠及行政院相關部會機關、國內外語言模型開發商(如:TAIDE、Meta、微軟等)與公協會蒞臨參與,藉由AI評測中心以建立台灣公平、可靠的AI產品與系統評測機制,健全台灣AI評測制度與可信任AI環境發展。...
2023 年 12 月 08 日

NVIDIA MLPerf GPT-3 模型訓練效能大增

日前NVIDIA發布其 AI 平台在MLPerf 產業基準測試,中提高了人工智慧訓練和高效能運算的標準,尤其在生成式AI領域的紀錄較為亮眼。在該紀錄中,10,752個NVIDIA H100 Tensor...
2023 年 11 月 09 日

生成式AI走向邊緣裝置 Arm必須做好兩件事

2023 Arm科技論壇正式起跑。今年的活動繼續以「The Future is Built on Arm」作為主題,匯集Arm國內外的技術專家與生態系統夥伴集聚一堂,並邀集知名產業領袖共襄盛舉。針對風起雲湧的生成式AI,Arm終端產品事業部產品管理副總經理James...
2023 年 11 月 01 日

NVIDIA因應生成式AI擴展機器人平台

NVIDIA近日宣布NVIDIA Jetson平台上邊緣人工智慧和機器人技術兩個框架的重大擴展。NVIDIA Isaac ROS機器人框架已經正式推出,接下來將推出Jetson上NVIDIA Metropolis的擴充。...
2023 年 10 月 20 日

耐能AI晶片KL730驅動輕量級GPT應用

人工智慧(AI)公司耐能日前發布KL730晶片,KL730整合了車規級NPU和影像訊號處理器(ISP),並將安全而低耗能的 AI,賦能到邊緣伺服器、智慧家居及汽車輔助駕駛系統等各類應用場景中。針對大型語言模型帶來的耗能挑戰,KL730可以大幅節省AI運算的功耗。...
2023 年 08 月 17 日

資策會成立AI 133 Lab推進生成式AI應用

資策會軟體技術研究院(軟體院)於8月2日舉辦「生成式AI軟體開發新生態」研討會,邀請中華民國資訊軟體協會、中華智慧運輸協會及醫療等公協會,共同見證AI 133 Lab啟用儀式,透過串聯生成式AI資訊服務生態系統,助力企業推進生成式AI應用。...
2023 年 08 月 04 日

生成式AI創造大量需求 美光搶推第二代HBM3記憶體

基於大規模語言模型(LLM)的生成式AI,不僅考驗處理器的運算效能,也對高頻寬記憶體(HBM)的容量跟頻寬帶來更高的要求。為搶占生成式AI所帶來的巨大商機,美光(Micron)近日發表其第二代HBM 3產品,藉由堆疊8層與12層DRAM,搭配更小的TSV間距,美光第二代HBM...
2023 年 07 月 31 日

半導體產業先蹲後跳 AI撐起晶片市場V形反轉

全球半導體市場自2022下半年歷經市場低迷,2023下半年可望迎來半導體產業觸底反彈的趨勢。人工智慧(AI)半導體則在大環境衰退的局勢下持續成長,快速成長的AI運算需求,以及AI終端應用潛能爆發,接連帶動AI專用晶片的市場成長。...
2023 年 07 月 05 日