超導數位技術變革AI/ML發展 實現運算設備用電永續(1)

超導數位技術利用材料在低溫時所具備幾乎為零的電阻特性。初步計算結果預測,相較於最先進的CMOS處理器所提供的性能,這項技術的能源效率高了100倍,運算密度也增加1,000倍。 科學家已經預測,在2040年前,全球接近半數的電力將用於運算...
2024 年 10 月 04 日

超導數位技術變革AI/ML發展 實現運算設備用電永續(2)

超導數位技術利用材料在低溫時所具備幾乎為零的電阻特性。初步計算結果預測,相較於最先進的CMOS處理器所提供的性能,這項技術的能源效率高了100倍,運算密度也增加1,000倍。 (承前文)但也有些驚人的不同之處。採用傳統的CMOS技術來堆疊多顆運算晶片的難度極高,因為這些晶片內部的功耗很大。運用超導技術,其耗散的微小功率能有效透過冷卻系統來處理。邏輯晶片可以直接透過先進的3D整合技術進行堆疊,實現更短距、更快速的晶片內連以及尺寸效益。 多個電路板還能相互堆疊,而且間距很小。在功耗、性能和面積的方面,由100塊電路板組成的堆疊預估可以製成一套具備每秒20百萬兆次浮點運算(exaFLOPS)AI性能的系統。上述採用的是BF16稠密運算,或是16位元浮點稠密運算。即相當於在FP18精度稀疏運算達到80exaFLOPS的算力,這種等級通常用於以GPU為基礎的伺服器。這樣的性能超越了目前資料中心所用的頂尖超級電腦。除此之外,該系統可望在低溫環境下實現僅有1kW的超低功耗,且在室溫下的功耗相當於500kW,其能源效率超過每瓦100TOPS(每秒100兆次浮點運算),這些都在僅有鞋盒大小的尺寸實現。 為了瞭解超導數位技術為何具備超高的能源效率,以及如何用來構建數位電子元件,需要關注其背後的物理學。在傳統的處理器中,大多數的功耗及散熱源於邏輯元件之間,或是邏輯與記憶體組件之間的資料傳輸,而不是出於實際運作。相反地,利用超導材料製成的內連導線在降溫到臨界溫度以下的時候就不會散失任何能量。這些纜線的電阻為零,因此只需要極小的能量就能在處理器內傳輸位元。這種超低能耗的特性,也適用於超高頻運作。 但這項技術要如何透過0和1的格式提供資訊的片段呢?在傳統的邏輯和記憶體系統,0和1皆源於類比訊號的電壓值。在超導元件,其零電阻的特性排除了電壓下降的情形。因此,資料編碼以不同的方式進行,它所仰賴的是邁斯納效應(Meissner...
2024 年 10 月 04 日

超導數位技術變革AI/ML發展 實現運算設備用電永續(3)

超導數位技術利用材料在低溫時所具備幾乎為零的電阻特性。初步計算結果預測,相較於最先進的CMOS處理器所提供的性能,這項技術的能源效率高了100倍,運算密度也增加1,000倍。 超導關鍵技術開發 (承前文)目前超導CPU所用的製程和材料,無法把運算密度提升到AI和ML技術突破所需的微縮程度。imec的目標是把目前的0.25微米微影尺寸微縮到28奈米。微縮的超導電線在縮小到50奈米的實際尺寸時,時脈速度和元件密度的乘積漸漸能與7奈米CMOS製程的表現相當(表1)。然而,在內連導線性能(以每條導線的GB傳輸率來表示)方面,28奈米超導技術預計能以百倍甚至千倍的幅度超越7奈米技術,功率效率也能提升50倍。 表1 比較7奈米CMOS元件與28奈米超導數位技術在商用AI/高效能運算應用的功耗、性能和面積 兩項關鍵技術將能協助達到這個微縮目標。首先,把處理流程轉移到imec的12吋無塵室進行,藉此來運用那些成功實現CMOS技術持續微縮的製程和設備。研究人員因此能使用像是193奈米浸潤式微影技術等製造能力,來定義這些結構的圖形,也能採用像是半鑲嵌等先進整合方案來建立內連導線層。其次,把目前所用的超導材料鈮(Nb),改為採用明顯更有微縮潛能的超導化合物氮化鈮鈦(NbTiN)。這種材料是用來建立內連導線並製造新型約瑟夫森接面和MIM電容。不同於鈮,NbTiN可以承受傳統CMOS做法所用的製程溫度,並盡可能避免與其周圍元件層產生作用。 imec為MIM電容、約瑟夫森接面和內連導線來開發模組,並在低溫環境驗證這些元件。近期,imec研究人員在其12吋無塵室製造的短路徑元件,這些元件以NbTiN金屬導線及通孔為基礎,採用的是直接金屬蝕刻與半鑲嵌的作法。以此方法製出的電線只有50奈米寬,展現化學穩定性,臨界電流密度為100mA/µm2,臨界溫度為14K,具有技術突破。以新的製程控制能力把關鍵尺寸縮小至50奈米,為製造雙金屬層超導內連導線的發展提供穩健的基礎。這種雙金屬層方案的可行性也已經顯現。模組本身的設計可以實現多層的延伸電路,因為它具備建構金屬層與通孔層的平坦化獨立元件層,進而能實現多層金屬層的相互堆疊,形成一種內連導線結構。 雙金屬層的研究成果則,為探索嵌入式創新超導數位邏輯元件的可能性做出準備,這些創新元件包含像是配備NbTiN電極的可調式氧化鉿鋯(HZO)電容,以及設有a矽阻障層和NbTiN電極的約瑟夫森接面。運用一套類似於imec用來製造氮化鈦(TiN)電極HZO電容的傳統室溫晶圓製程,在開發NbTiN電極超導HZO電容的方面已經取得進展。 至於...
2024 年 10 月 04 日

看準算力供不應求 全球RISC-V聲勢喊漲

由於算力、邊緣、人工智慧(AI)等需求暴增,如供應鏈針對軟體及IP需求提升,加上新興應用/場域亦需更高階的算力才得以實現。同時,RISC-V的成本、技術及策略風險亦為業界關注的焦點,因此,考量到諸多優點,越來越多全球業者逐步採用RISC-V架構,如市場調研機構Tractica便預估其全球市場營收至2025年將達11億美元。 全球RISC-V生態系的發展,不難想像從開源軟體、硬體到CPU核心的延伸,如何用同一架構且較低成本的方式達到差異化,為各方首重的課題。拓墣產業研究院資深分析師姚嘉洋以中國為例,指出中國RISC-V發展動態值得留意,他認為雲端服務供應商(CSP)會扮演推動發展趨勢的要角,以阿里巴巴旗下半導體商平頭哥為例,其致力於推動開源架構提供給晶片及系統業者進行差異化開發,因此中國晶片及系統業者皆能因此受益。另一方面,姚嘉洋以芯來科技為例,該公司於2019年與兆易創新合作,推出首款RISC-V...
2020 年 10 月 21 日

製程升級/專用化/改架構 AI訓練/推論晶片算力攀升

人工智慧晶片的算力逐漸成為效能的指標,其中雲端(Cloud)、邊緣(Edge)、訓練(Training)及推論(Inference),更朝向專用與分流趨勢發展。
2020 年 06 月 01 日