與一般無線射頻技術不同，超寬頻(UWB)技術是使用低功率、極大波段頻寬來收發無線電波的技術，具有能實現高精度測距、測向的特點，也可以用來傳輸資料。這項特性使UWB技術曾一度往資料傳輸應用發展，但由於標準化進程不順利，歷經多年波折後，才重新鎖定感測應用。 UWB技術早於1960年代便已有應用，但多為特殊應用，如地雷探測、考古遺跡探勘，或救災時的生命探測等。一直到2002年美國聯邦通訊委員會(FCC)解除管制(圖1)，允許UWB一般性商用，各界才積極投入UWB技術與市場。 圖1　美國FCC允許的室內UWB頻譜範圍　資料來源：SPARK...

在AI模型訓練完成，開始向使用者提供服務後，AI推論需求將遠大於訓練需求。因此，許多大廠早在數年前便開始研發雲端專用的純推論晶片，希望搶得先機。但目前這類純推論晶片的開發計畫多已宣告終止，顯示純推論晶片的發展似乎遭遇困境。 人工智慧硬體加速晶片歷經數年的發展已逐漸演變出三個佈建位置、兩種取向設計，三佈建位置分別是雲端(Cloud)、邊緣(Edge)、裝置(Device)，後兩者是之後的衍生演化，也稱為Edge...

在AI模型訓練完成，開始向使用者提供服務後，AI推論需求將遠大於訓練需求。因此，許多大廠早在數年前便開始研發雲端專用的純推論晶片，希望搶得先機。但目前這類純推論晶片的開發計畫多已宣告終止，顯示純推論晶片的發展似乎遭遇困境。 雲端推論晶片式微為哪樁？ 為何雲端專屬推論晶片式微？目前業界尚難見一致性看法，但仍可推敲數種可能。一是單純的大廠個案，英特爾在整體營運調整下，不得不進行取捨；AWS則可能更重視追趕、挑戰NVIDIA而擱置Inferentia。 另一是推論取向晶片以8位元整數(INT8)精度為主要加速著眼，甚至隨著AI演算法精進而延伸支援4位元、2位元、1位元整數，訓練通常涉及較高位元且用及浮點數，故能耗相對為高。而新款訓練型晶片(無論訓練、推論合一或訓練專屬均可兼任推論工作)持續加入多種位元整數精度的加速設計，功耗差距拉近，且因為支援的精度類型較多而具有使用彈性，訓練專屬型則相對缺乏彈性，彈性運算的價值也必須納入考慮。 另外，倘若大量普及的推論運算遲遲未到來，現階段推論專屬型晶片便難以拿到立即的銷售養分以維持其後續研發，導致難以為繼。雖然此點可能逐漸改善，如NVIDIA黃仁勳在2024年2月提到其AI晶片業務已有40%用於推論工作(原文為模型布建，幾乎與推論相同意義)。微軟執行長Satya...

超乙太網路聯盟(Ultra Ethernet Consortium, UEC)於2023年8月成立，聯盟的執掌成員為9家國際大廠，包含晶片商超微(AMD)、博通(Broadcom)、英特爾(Intel)，資通訊設備商Arista、思科(Cisco)、慧與(HPE)，雲端大廠Meta、微軟(Microsoft)，資訊服務大廠則有Atos旗下的Eviden，加上後來加入的甲骨文(Oracle)，共計10家。 UEC目標是以現行乙太網路技術為基礎共同訂立一套更先進的傳輸協定，協定標準一旦定案，晶片商至少需要重新設計乙太網路晶片內的媒體存取控制層(Media...

Wi-Fi技術已正式進入Wi-Fi 7世代，但並非所有Wi-Fi晶片供應商都在第一時間推出Wi-Fi 7方案。由於物聯網、車聯網等非IT領域的應用興起，許多專攻這類市場的Wi-Fi晶片業者，都沒有快速進軍Wi-Fi...

消費型與商用無人機市場成長雖已放緩，但軍用、6G等新應用，將為無人機搭建新舞台。因此，許多晶片大廠已開始進行嘗試性布局，先以通用硬體搭配客製化軟體，測試市場水溫。 根據德國無人機產業專業研究機構DII(Drone...

LLM或生成式AI需要極為龐大的運算能力支撐，並使得這類技術的開發跟使用成本異常高昂。因此，軟體業者正在追求更輕量化的LLM，硬體業者則試圖用架構創新來滿足LLM的效能需求。 大型語言模型(Large...

AI技術不斷翻新，對處理器效能的需求也越來越飢渴。但在摩爾定律腳步放緩的情況下，處理器業者必須設法找出提升運算效能的新方法。目前半導體業界正在嘗試四種不同的技術路徑，希望能滿足AI對運算效能的迫切需求。   談及AI加速晶片...

AI技術不斷翻新，對處理器效能的需求也越來越飢渴。但在摩爾定律腳步放緩的情況下，處理器業者必須設法找出提升運算效能的新方法。目前半導體業界正在嘗試四種不同的技術路徑，希望能滿足AI對運算效能的迫切需求。 仿大腦神經設計 類神經網路的提出，其靈感本就源自人類的腦神經，但過去只是運用此網路特性來建構程式執行邏輯，如果將此網路結構直接以電路方式實現並運作，運算上便能大幅增速，此稱為突刺神經網路晶片(Spiking...

自2022年8月CXL標準進入3.0版後，該標準成為資料中心晶片的主流傳輸標準的態勢，已更加穩固。其他競爭標準不是加入CXL，就是轉入利基定位。CXL為何成為主流？對後續的晶片技術、半導體產業將帶來何種影響？以下本文將對此探討。 瞄準兩大資料中心記憶體運用痛點 訂立CXL標準的主要用意，一是緩解記憶體頻寬不足的問題，製程技術持續縮密使CPU的核心數持續增加，但記憶體的通道數卻難以對應增加，記憶體逐漸成為整體系統效能的瓶頸。在無法對應擴增通道數下，運用CPU本即整合的PCIe通道來附帶傳遞記憶體資料，成為可行的變通方法。 二是記憶體利用率低，今日超規模資料中心內的伺服器多已採虛擬化方式運作執行，將記憶體資源配置給所有客體虛擬機器後，仍有程度性的記憶體閒置未用，形成浪費。CXL試圖運用PCIe通道將閒置的記憶體資源分享、配置給系統中其他的高速晶片存取使用。 簡言之，CXL試圖在系統內打造一個記憶體資源池，打破現行記憶體專屬於CPU、GPU或其他高速晶片的設計，使位於同一系統內的主機板、繪圖卡、加速卡等部件上的記憶體能融合成一體，從而靈活調配運用。 標準大戰即將落幕　CXL笑傲江湖 由上可知CXL立意良善，然早在CXL之前已有諸多業者針對上述困境嘗試提出解方，如2014年IBM針對自家系統提出CAPI技術，並在2016年產業聯盟開放推展，稱為OpenCAPI；2016年亦有超微(AMD)、安謀(Arm)、高通(Qualcomm)、Mellanox、賽靈思(Xillinx)等資料中心高速晶片商共同提出CCIX；思科(Cisco)、戴爾(Dell)、HPE等資通訊設備商，亦提出了Gen-Z標準，試圖解決資料中心記憶體運用的問題。 這些技術均較CXL更早登場，也更早使用PCIe介面來緩解記憶體頻寬提升需求，以及用分享機制提升記憶體資源利用率。由於技術的重點在於傳輸內容的協定機制，實體傳輸面的設計反在其次，選擇多數高速晶片已內建、效能合乎要求的介面為佳，因此PCIe最為理想。 不過，在實體層設計部分，還是有些廠商提出自有技術，如CAPI使用IBM自訂的BlueLink介面，或使用NVIDIA提出的NVLink；Gen-Z則可使用乙太網路達到跨機箱的資源分享等，然這些技術的整體接受度均不如PCIe。 三項標準相互競爭一段時日均未取得明顯主流地位，部分原因在於最關鍵的晶片商英特爾(Intel)未表態，畢竟資料中心CPU有近九為Intel...

Matter標準於2022年第四季終於底定，第一波取得認證的生態系成員名單亦已出爐。從取得認證的晶片業者背景來看，雖然恩智浦是獲得最多Matter認證的晶片商，但中國IC業者的態度亦相當積極。 Combo晶片大行其道 除了認證清單外，另一個觀察重點在於實現Matter所需的技術。Matter為高層次協定，支撐其運作的通訊協定包含TCP、UDP、IPv6等，更底層的支撐通訊技術則包含DSL家用寬頻、DOCSIS纜線數據機通訊標準、蜂巢網路(Cellular)、乙太網路(Ethernet)，以及Wi-Fi、Thread、BLE等(圖3)。 圖3　Matter標準底層支援多種通訊技術　圖片來源：CSA 雖然Matter可以支援各種通訊技術，但在13款取得認證的開發板中，支援BLE者最多，計有9款；次之為Wi-Fi，計有8款；更次則為ZigBee、Thread等，約4、5款。 不過，目前取得認證的開發板，絕大多數都是採用複合(Combo)晶片，即一顆晶片可支援Wi-Fi、BLE、ZigBee、Thread中的兩種以上。另外，ZigBee、Thread的差異主要在協定堆疊(Protocol...

Matter標準於2022年第四季終於底定，第一波取得認證的生態系成員名單亦已出爐。從取得認證的晶片業者背景來看，雖然恩智浦是獲得最多Matter認證的晶片商，但中國IC業者的態度亦相當積極。 家庭物聯網協定自2014年蘋果(Apple)提出HomeKit、Google併購Nest...