為何說NVIDIA的GB200巨獸,是在向十年前的Google致敬?

2024年的GTC大會上,當黃仁勳費力地指著那座名為GB200 NVL72的黑色巨塔時,全場分析師都在為那天文數字般的算力歡呼。但對於熟悉大型分散式系統的資深架構師來說,這一幕既震撼又諷刺。 震撼在於NVIDIA終於把單機櫃的工程密度做到了極致;諷刺在於,這頭由72顆晶片組成的銅纜巨獸,恰恰證明了NVIDIA正在拚命追趕Google早在2015年就確立的技術哲學:單晶片已死,系統即晶片。 這場戰爭的本質,早已從單兵作戰演變為軍團陣法。我們必須拆解這場被股價掩蓋的技術真相。 通訊牆:摩爾定律失效後的真實戰場 過去十年,我們習慣了晶片製程從14奈米一路殺到3奈米,誤以為只要電晶體夠多,AI就能無限變強。現實給了所有人一記耳光。當模型參數突破兆級,單顆GPU就算強如H100也只是滄海一粟。訓練一個大模型需要幾萬顆GPU同時運算,這時真正的瓶頸不再是「算得有多快」,而是「傳得有多快」。 試想一下,你有72台法拉利(GPU),但它們被困在台北內湖下班時間的車陣中(頻寬瓶頸)。這時法拉利的引擎再好也沒用,整支車隊的速度取決於最慢的那台車,以及糟糕的交通號誌。這就是傳統資料中心面臨的「通訊牆」。 NVIDIA依賴InfiniBand網路來解決這問題,這方案成熟但昂貴,而且需要大量的光電轉換模組(Optical...
2025 年 11 月 27 日

NVIDIA Blackwell GTC亮相 DGX B200助力超級運算

NVIDIA在2024 GTC中,針對規模生成式AI訓練和推論工作,推出了更高效能的運算架構,將能處理兆級的參數模型,可望更多元的大規模AI應用。NVIDIA推出下一代人工智慧(AI)超級電腦,此產品由NVIDIA...
2024 年 03 月 21 日

NVIDIA Grace Hopper超級晶片進入量產

NVIDIA於2023年5月29日宣布 NVIDIA GH200 Grace Hopper超級晶片已開始量產,將為全球即將上線的系統提供動力,以運行複雜的人工智慧和高效運算工作負載。 搭載GH200的系統加入了400多種基於NVIDIA多種最新的CPU、GPU和DPU架構,包括NVIDIA...
2023 年 05 月 31 日

GTC 2021軟硬體齊發 NVIDIA打造全方位AI運算平台

NVIDIA GTC年度技術論壇日前登場,以AI為核心,持續布局軟硬體技術平台,透過推出最新的高效能運算應用CPU Grace,結合GPU與DPU,讓其運算服務更加完整,並在資料中心、5G、汽車、超級...
2021 年 05 月 17 日

NVIDIA/Arm雙劍合璧 Grace CPU進軍高效能運算

輝達(NVIDIA)併購Arm的起手勢終於明朗就是跨足-CPU。今年GTC宣布推出首個採用Arm Nerverse超算微架構的資料中心中央處理器(CPU),藉由新一代頻寬高達900GB/s的NVLink,NVIDIA...
2021 年 04 月 15 日

NVIDIA發表A100 80GB GPU 建構下世代超級電腦

輝達(NVIDIA)在Supercomputing 2020大會期間發表NVIDIA HGX AI超級運算平台的A100 80GB GPU,其記憶體容量較前一代多出一倍,為研究人員與工程師大幅提升速度與效能,解鎖AI...
2020 年 11 月 20 日

插旗人工智慧市場 英特爾/NVIDIA競出招

英特爾(Intel)、NVIDIA於人工智慧(AI)市場競爭持續延燒,雙方紛紛於近期宣布人工智慧相關布局計劃。英特爾發表一系列涵蓋範圍從網路邊界(Edge)到資料中心的產品、技術及投資,以拓展AI在各領域應用的能力;而NVIDIA則釋出與IBM、微軟(Microsoft)攜手合作發展人工智慧的訊息,兩大廠競爭日趨激烈。 英特爾宣布針對AI推出全方位的系列產品–Intel...
2016 年 11 月 28 日