生成式AI元年啟動 NVIDIA全力支援企業AI

人工智慧(AI)與大型語言模型(LLM)的快速進展,模型的參數量呈現倍數成長,硬體設備亟需突破效能瓶頸。 面對龐大的算力需求,處理器供應商從CPU、GPU的運算效能、晶片內的資料傳輸頻寬等角度切入,盡可能滿足LLM在訓練與推論方面的效能需求。同時,企業導入生成式AI面臨諸多挑戰,包含模型更新速度飛快、數位分身(Digital...
2024 年 04 月 11 日

英特爾發表Gaudi 3 點名挑戰NVIDIA

英特爾在Vision 2024大會上,正式發表其Intel Gaudi 3 AI加速器。與前代產品相比,Gaudi 3為BF16提供4倍AI運算能力、1.5倍記憶體頻寬以及2倍網路頻寬,可擴充大規模系統,將有助大型語言模型(LLM)和多模態模型的AI訓練和推理,大幅提升效能和生產力。此外,英特爾亦強調,將透過開源社群軟體和符合業界標準的乙太網路,為客戶提供可靈活擴充系統的新選擇。從新推出的產品規格到生態系布局,可以很明顯看出,英特爾正急於抽乾NVIDIA在AI生態系領域所挖掘的護城河。...
2024 年 04 月 10 日

Ansys攜手NVIDIA開創電腦輔助工程新世代

Ansys宣布與NVIDIA合作,共同開發由加速運算和生成式AI驅動的下一代模擬解決方案。擴大的合作將融合頂尖技術以推進6G技術,透過NVIDIA GPU增強Ansys求解器,將NVIDIA AI整合到Ansys軟體產品中,開發基於物理的數位分身,以及自訂使用NVIDIA...
2024 年 03 月 21 日

「AI+手機」問世 手機產業邁向新篇章(1)

為實現生成式AI在手機上的各類應用,並滿足手機直接處理LLM的運算需求,手機晶片算力的演進成為AI手機的發展關鍵。國際兩大行動處理器業者高通與聯發科皆於2023年第四季發表新一代的手機旗艦晶片,如高通Snapdragon...
2024 年 03 月 18 日

「AI+手機」問世 手機產業邁向新篇章(2)

在聯發科與高通的處理器平台支援下,智慧型手機已正式進入AI+手機的新時代。未來這些由AI衍生出的各種應用與軟體服務,將為手機品牌廠帶來更多創造差異化的機會。 開發LLM與各類AI應用為品牌廠策略重點 自2023年第四季起至今,手機品牌陸續發表AI手機的資訊,包含小米、vivo、OPPO、三星等,各品牌最新的旗艦款手機皆可在手機上直接運行生成式AI。目前AI手機以陸系手機品牌最為積極,包含Xiaomi...
2024 年 03 月 18 日

軟硬整合釋放AI潛能 資料中心效能須升級

過去這一年來,由於生成式預訓練模型(GPT)和其他大型語言模型的推出,AI已經漸漸成為科技應用的主流趨勢。AI迅速發展正為全球各行各業帶來革命性的改變,許多企業組織希望將AI整合進其資料中心,以進一步提升工作效率。...
2024 年 02 月 16 日

美光發表LPCAMM2產品 記憶體模組進入新世代

美光(Micron)近日發表其第一款LPCAMM2記憶體模組,該模組是記憶體模組領域繼SO-DIMM以來最重要的一次技術更新,不僅外觀尺寸更小,而且擁有遠勝於SO-DIMM的介面效能。 美光推出最新基於LPDDR5X的LPCAMM2記憶體,具備高效能、低功耗、更小規格尺寸...
2024 年 01 月 19 日

非x86陣營搶進AI PC 生態系成熟度定勝負(1)

為搶食AI應用進駐PC等終端裝置所帶來的商機,Arm陣營的業者也有相當積極的動作,不讓x86陣營專美於前。但在軟體生態系方面,除了蘋果之外,泛安謀陣營恐怕還有許多障礙需要克服。 基於人工智慧(AI)的應用功能,在智慧型手機等領域已經存在一段時間,例如手機拍照後的相片美化,或是拍攝時的影像強化功能,都已經大量使用AI。因此,對於非x86陣營的處理器晶片業者而言,支援AI並非新鮮事。不過,這些AI跟當下最熱門的生成式AI相比,在運算效能需求、記憶體容量跟存取效率方面,有著巨大的差異。如何進一步提升硬體效能,讓智慧型手機等行動終端裝置也能支援生成式AI,遂成為相關處理器業者當下必須面對的課題。...
2024 年 01 月 08 日

非x86陣營搶進AI PC 生態系成熟度定勝負(2)

為搶食AI應用進駐PC等終端裝置所帶來的商機,Arm陣營的業者也有相當積極的動作,不讓x86陣營專美於前。但在軟體生態系方面,除了蘋果之外,泛安謀陣營恐怕還有許多障礙需要克服。 資料儲存效能的重要性將陸續浮現...
2024 年 01 月 07 日

PC生態系龍頭火力全開 AI PC來勢洶洶(1)

隨著生成式AI爆紅,PC產業三巨頭英特爾、超微與微軟,都將支援生成式AI作為下一代產品的主要賣點,並希望藉此帶動新一波PC換機潮。 自OpenAI正式發表ChatGPT,為AI技術發展再掀一波新熱潮以來,生成式AI就一直是科技業內的熱門關鍵字。伺服器與高效能運算無疑是生成式AI風潮的第一波受益者,從晶片供應商到伺服器OEM、ODM,都已經享受到生成式AI所帶來的股價跟營收紅利。...
2024 年 01 月 04 日

PC生態系龍頭火力全開 AI PC來勢洶洶(2)

隨著生成式AI爆紅,PC產業三巨頭英特爾、超微與微軟,都將支援生成式AI作為下一代產品的主要賣點,並希望藉此帶動新一波PC換機潮。 軟體生態分化 開發者支援更形關鍵 但也因為每家處理器業者所採用的硬體架構不同,加上AI對硬體效能的需求本來就遠高於典型的PC應用軟體,導致軟體開發者有必要針對不同的硬體平台推出對應的最佳化版本。...
2024 年 01 月 03 日

軟硬體各提新解方 生成式AI突破運作成本挑戰

LLM或生成式AI需要極為龐大的運算能力支撐,並使得這類技術的開發跟使用成本異常高昂。因此,軟體業者正在追求更輕量化的LLM,硬體業者則試圖用架構創新來滿足LLM的效能需求。 大型語言模型(Large...
2023 年 12 月 11 日

登入會員

本站程式甫於2022.5.5更新,
所有舊會員必須先點擊:
忘記密碼 進行密碼確認後,才能正常登入。

上述動作目的在於確保帳號安全性,造成不便懇請見諒。如您已重設過密碼,請忽略此訊息。