結合數位孿生概念 機房散熱規劃進入新時代(2)

液冷技術的進展,將對資料中心的基礎設施帶來巨大翻轉,甚至有可能帶動新一波資料中心興建浪潮。模擬工具業者正摩拳擦掌,希望能趁著這波熱潮,將自家的數位孿生方案推向市場。 達梭系統/雲達攜手打造永續資料中心 相較於益華從晶片向上延伸到資料中心的數位孿生,以系統模擬分析見長的達梭系統(Dassault...
2024 年 07 月 02 日

英飛凌CoolSiC MOSFET 400V助攻AI伺服器電源

隨著人工智慧(AI)處理器對功率的要求日益提高,伺服器電源(PSU)必須在不超出伺服器機架規定尺寸的情況下提供更高的功率,這主要是因為高階GPU的能源需求激增。到2030年,每顆高階GPU晶片的能耗可能達到2千瓦或以上。這些需求以及更高要求的應用和相關特定客戶需求的出現,促使英飛凌(Infineon)開發電壓650V以下的SiC...
2024 年 07 月 02 日

AI伺服器「熱度」飆升 液冷技術百家爭鳴(1)

生成式AI帶來巨大的運算能力需求,同時也讓處理器功耗與熱量節節攀升。為解決晶片散熱問題,導入液冷將是不可避免的趨勢,液冷技術也因而呈現百家爭鳴的態勢。 為滿足生成式AI模型訓練對運算能力的巨大需求,伺服器GPU加速器晶片規模快速增加,其所散發的熱量亦出現驚人成長。以NVIDIA最新推出的加速器平台為例,結合2顆Blackwell...
2024 年 06 月 28 日

AI伺服器「熱度」飆升 液冷技術百家爭鳴(2)

生成式AI帶來巨大的運算能力需求,同時也讓處理器功耗與熱量節節攀升。為解決晶片散熱問題,導入液冷將是不可避免的趨勢,液冷技術也因而呈現百家爭鳴的態勢。 柏斯托/英特爾聯手推動單相浸沒式冷卻 為了替下一代功耗跟發熱量更高的處理器預做準備,解熱能力更高的浸沒式冷卻,也是科技業者積極布局的重點。馬來西亞國家石油化工集團(PETRONAS...
2024 年 06 月 28 日

耐能捐贈邊緣AI伺服器給清華大學

在人工智慧技術日益成為推動社會進步重要力量的今天,耐能智慧公司捐贈全球首台高性能AI伺服器(KNEO300)給清華大學科技管理學院,以支持學院在AI領域的教學與研究工作,捐贈儀式在台積館舉行。 此次捐贈體現了耐能智慧公司對教育事業的支持和對科技創新的重視。透過促進人工智慧技術在教育領域的應用(如數據分析/資料檢索/翻譯/經濟/科技法律/科技管理/計量財務金融),幫助更多學生和教師更好地理解和掌握AI技術,培養更多具有創新精神和實踐能力的人才。 耐能創辦人兼執行長劉峻誠形容KNEO...
2024 年 06 月 14 日

柏斯托與英特爾Open IP先進液冷團隊開發新型合成散熱液與應用

馬來西亞國家石油化工集團(PETRONAS Chemicals Group Berhad, PCG)旗下全資子公司柏斯托(Perstorp),近年來與英特爾Open IP先進液體冷卻團隊合作,開發出一款用於資料中心浸沒式冷卻的高性能合成散熱液。自2022年,雙方開始合作資料中心的永續解決方案,近日參與2024台北國際電腦展,英特爾於展場展示其Gaudi...
2024 年 06 月 13 日

2024Q1 NAND Flash營收增28.1% 成長動能預期將延續

人工智慧(AI)應用對記憶體的需求持續攀升,在DRAM之後,也帶動企業級SSD的成長。根據TrendForce研究,受惠於AI伺服器自二月起擴大採用Enterprise SSD,大容量訂單開始湧現。以及PC、智慧型手機客戶為因應價格上漲,持續提高庫存水位,帶動2024年第一季NAND...
2024 年 05 月 30 日

AI晶片熱情更勝火 液冷技術百家爭鳴

生成式AI崛起,龐大的算力需求使GPU業者必須推出效能更強大的處理器。但伴隨著運算效能提升,GPU的功耗跟發熱量也不斷飆高,現有的氣冷技術已無法解決GPU散熱問題。為應對生成式AI所帶來的散熱挑戰,產...
2024 年 05 月 24 日

固緯正式進入大功率電源測試領域

固緯電子(GW Instek)於2月6日宣布推出全新可編程交流、直流電源供應器ASR系列的旗艦機種ASR-6000,正式宣告固緯在大功率電源測試領域具備完整測試解決方案。 ChatGPT的橫空出世,引爆AI應用高速成長,具備先進AI功能的伺服器,需要大量電力來維持高速運算能力。AI伺服器機架普遍使用高功率熱插拔冗餘電源模組(Common...
2024 年 02 月 16 日

國內外廠商積極布局 生成式AI商機/監管挑戰並陳(1)

生成式AI在2024年將會看到更廣泛的應用,在技術快速發展下,人工智慧技術需要強大且與時俱進的立法框架。在2023年,可以觀察到全球市場在人工智慧創新與責任的平衡上取得成果。 第一代生成式人工智慧(AI)工具專注於特定功能,例如編寫文字或生成圖片。在接下來的12個月中,市場上將出現多模式通用人工智慧系統,其特點是能夠處理和無縫整合文字、視覺和音訊等不同資料類型。這將促進更自然和直觀的用戶體驗,大幅增強跨領域的應用程式功能。 生成式AI系統未來可支援複雜的虛擬助理,準確地回應複雜的查詢。也能夠建立可解釋情緒和意圖的高階客戶服務機器人,同時產出創新的教育工具、身臨其境的娛樂體驗,以及為身障使用者提供更好的無障礙環境等等。整體而言,這些多模態系統代表人工智慧的進步,能夠以類似於人類感知和認知的方式與世界互動,進而拓展人工智慧應用和使用者體驗的可能性。同時,人工智慧將從根本上改變工作場所中的人機動態,成為各個領域的關鍵合作夥伴(圖1)。 圖1 企業與政府都需要建立自身的生成式人工智慧政策 (資料來源:AIHR) 2023年的焦點一直是生成式人工智慧如何提供內容創作,但2024年將會看到更廣泛的應用。包括關注人工智慧執行高階分析工作、透過預測性見解幫助專案管理、透過自動程式碼產生和調試徹底改變編碼、透過精確的診斷和病患照護增強醫療保健、透過先進的虛擬協助提升客戶服務等。 在技術快速發展下,人工智慧技術需要強大且與時俱進的立法框架。在2023年,可以觀察到全球在人工智慧創新與責任的平衡上取得成果。舉例而言,英國主辦的人工智慧安全高峰會達成了《布萊切利宣言》,這是第一個關於制定安全人工智慧框架的正式國際協議,由英國、歐盟、美國、印度和中國等28個國家簽署。 此外,美國制定《人工智慧權利法案》藍圖、歐盟制定《人工智慧法案》(圖2),而中國與加拿大也持續推動各自的人工智慧監管框架,其他國家正在制定各自的人工智慧治理策略。進入2024年,這種全面、協調的人工智慧監管趨勢應會持續下去,並且越來越重視道德人工智慧部署、風險緩解和透明度,這將在全球範圍內塑造一個更加負責任和安全的人工智慧格局。 圖2 歐盟的人工智慧法規被視為全球嚴格規範之一 (資料來源:Telefonica) 同時,生成式人工智慧的快速擴散加劇了複雜的法律挑戰,特別是在智慧財產權和版權問題方面。2024年,焦點將集中在人工智慧生成內容(包括藝術、音樂和文學作品)的法律複雜性。這些人工智慧創作的權利和所有權目前處於微妙的法律環境,需要製定新的法律框架和指南,來解決人工智慧在內容生成中的獨特作用。 美國版權局目前拒絕人工智慧生成圖像的版權申請,即使藝術家認為人工智慧系統是他們創作過程中不可或缺的一部分。同時,有關未經許可使用受版權保護的作品,來訓練生成人工智慧系統的訴訟正懸而未決,這突顯了人工智慧生成內容面對的複雜法律環境。人工智慧和版權的互動正不斷發展,新的框架也持續出現,以解決人工智慧在內容生成中的影響。這些機制對於平衡保護原創者的權利,和培養人工智慧在創意領域的創新潛力是必要的。 微軟/Google布局 微軟 在不斷發展的技術領域,微軟公司不斷適應變革的浪潮,紮根於軟體產業,已將其領域擴展到消費性電子、個人電腦、雲端運算。尤其在人工智慧,特別是生成式人工智慧和雲端服務,將重塑該公司的成長軌跡。從業務來看,微軟展現穩健的財務狀況,擁有強勁的資產負債表和各部門積極的收入成長。智慧雲端部門,尤其是Azure展現強勁成長,在單一企業的成長方面超越競爭對手。微軟Azure中的人工智慧功能是競爭激烈的雲端市場中關鍵的差異化因素,該公司的業務部門(包括Microsoft...
2024 年 01 月 01 日

國內外廠商積極布局 生成式AI商機/監管挑戰並陳(2)

生成式AI在2024年將會看到更廣泛的應用,在技術快速發展下,人工智慧技術需要強大且與時俱進的立法框架。在2023年,可以觀察到全球市場在人工智慧創新與責任的平衡上取得成果。 Google (承前文)除微軟外,Google應該是第二家積極布局生成式人工智慧的科技業者(圖3)。在2023年Google...
2024 年 01 月 01 日

台達OCP Global Summit 2023展示AI伺服器電源方案

台達於10月17~19日亮相2023「OCP全球峰會」(OCP Global Summit),展出ORV3機架式電源及DC-DC轉換器,可應用於AI伺服器上。 ORV3機架式電源,具備18kW及33k...
2023 年 10 月 30 日