雲端/AI應用頻寬需求孔急 矽光子技術將成重中之重(1)

為了滿足傳輸大量資料所衍生的頻寬需求,光通訊技術在近十年有非常大的進展。人工智慧(AI)與機器學習(ML)應用的興起,將使光通訊元件必須進一步微縮到能直接與晶片整合的程度,以進一步降低延遲與成本。這也使得矽光子將成為半導體領域不可或缺的核心技術。 過去十年間,100G、200G及400G可插拔光學元件陸續推出,雲端資料中心才能支援供不應求卻仍不斷增加的應用需求,例如影音串流、網頁瀏覽、社群網站、雲端運算等。照著這套脈絡發展,800G可插拔模組很快就會登場,而且預計在2026年前,就能看到支援1.6T傳輸的光學元件問世,屆時這些光學元件將可透過單模光纖電纜來連接相距數百公尺的資料中心交換器。 資料中心網路的頻寬不斷增加源於兩股驅動力。一方面,資料中心交換器的CMOS技術持續微縮;另一方面,IEEE乙太網路收發器(Tx/Rx)標準不停推陳出新。歷史上,成本最低的收發器一直是透過使用最少量的平行光通道來實現。因此,微縮發展的關鍵就是光學收發器的鮑率(BAUD...
2023 年 06 月 29 日

雲端/AI應用頻寬需求孔急 矽光子技術將成重中之重(2)

為了滿足傳輸大量資料所衍生的頻寬需求,光通訊技術在近十年有非常大的進展。人工智慧(AI)與機器學習(ML)應用的興起,將使光通訊元件必須進一步微縮到能直接與晶片整合的程度,以進一步降低延遲與成本。這也使得矽光子將成為半導體領域不可或缺的核心技術。 AI/ML帶動超低延遲光通訊需求 像是ChatGPT、GPT-4和Lambda等大型生成式AI模型在近期問世,凸顯了具備充足頻寬對高性能AI/ML叢集的重要性,這些運算系統能用來訓練這些模型。可插拔的光學連接已開始在這些運算系統取代銅線,用來連接相距數公尺到數十公尺的多台客製化處理器(XPU)伺服器。 隨著這些運算系統的規模擴大至上千台處理器,光學連接將漸漸延伸至電路板及封裝領域,以滿足晶片互連的高頻寬需求。這項趨勢對頻寬、成本、功耗及可靠度等性能要求也越來越嚴苛。未來所需的光學收發器必須具備多個Tbps/mm等級的高頻寬、遠小於5pJ/bit的低功耗、100ns以下的低延遲及高可靠度,而且成本落在加幣10元/Gbps(約為台幣230元/Gbps)甚至更低。 隨著AI/ML運算系統的規模擴大至上千台處理器,光學連接將漸漸延伸至電路板及封裝領域,以滿足晶片互連的高頻寬需求。 與資料中心網路不同,AI/ML系統對功率及延遲的要求極高,幾乎不可能進行數位訊號處理。這代表著光通道必須非常「暢通」,具備極低的位元錯誤率。因此,要在這些系統提升頻寬,較合適的作法是採用較多的平行光通道,每通道以介於16~64Gbps的適中資料傳輸率進行無錯傳輸,所用的光學及電氣元件皆以效率而非頻寬為目標進行優化。 支援8種、16種或更多不同波長的高密度分波多工(WDM)技術也有助於控制實體光通道的總數。為了把光學I/O模組連接到客製化處理器或高頻寬記憶體(HBM)堆疊,晶圓級的共封裝光學元件(CPO)也開始興起,利用省電的寬頻I/O電訊號傳輸介面在傳輸路徑的「最後一哩」實現銅互連(圖1)。最後,成本考量與光學鏈路預算的要求,也在逐漸推動光源整合至矽光子晶片的進程。 圖1 imec展望晶圓級共封裝光學元件(WL-CPO)的發展,結合高密度WDM技術來擴充頻寬 在雲端資料中心與AI/ML系統,網路頻寬作為定義系統級效能的一項指標,變得越來越重要。網路所面臨的頻寬瓶頸營造了高度緊張感,迫使業界積極投入採用矽光子。 近期imec的研究活動聚焦優化矽材環型共振腔調變器、WDM濾波器及電路,以實現低功耗且混合CMOS和矽光子元件的收發器。在滿足AL/ML系統應用所需的性能上,環型WDM矽光子收發器的元件架構極具潛力。在2023年光學網路暨通訊會議(OFC...
2023 年 06 月 29 日

四大技術各有新突破 矽光子整合難題有解

光子積體電路(Photonic Integrated Circuit, PIC)在單一晶片上整合了多種光電功能,其應用涵蓋各個領域。從負責光達系統(LiDAR)偵測功能的高速光學收發器,到光譜分析感測器,都包含在內。為了降低這些光子晶片的量產成本,矽光子技術(Silicon...
2022 年 08 月 18 日