美光科技(Micron)宣布，其HBM3E 12層堆疊36GB記憶體將被整合在超微(AMD)即將推出的Instinct MI350系列解決方案中。此次合作突顯能源效率和效能在訓練大型AI模型、提供高傳輸量推論，以及處理複雜之高效能運算工作負載(如資料處理和運算建模)方面的關鍵作用。
美光HBM3E 12層堆疊36GB記憶體解決方案為AMD Instinct MI350系列GPU平台帶來記憶體技術，提供卓越的頻寬表現和更低的功耗。超微Instinct MI350系列GPU平台採用AMD先進的CDNA 4架構，整合288GB高頻寬HBM3E記憶體，可提供高達8TB/s的頻寬，實現優異的吞吐量。憑藉如此龐大的記憶體容量，Instinct MI350系列GPU可在一顆GPU上高效支援高達5,200億個參數的AI模型。在完整平台配置中，Instinct MI350系列GPU可搭載高達2.3TB容量的HBM3E記憶體，並在FP4精度下實現高達161 PFLOPS的峰值理論效能，具備頂尖的能源效率和可擴充性，適合高密度AI工作負載。
超微Instinct產品工程企業副總裁Josh Friedrich指出，美光HBM3E 12層堆疊36GB記憶體是促成Instinct MI350系列加速器達到卓越效能與能源效率的關鍵助力。我們與美光的持續合作推動了低功耗、高頻寬記憶體的發展，協助客戶訓練更大的AI模型、加快推論速度並處理複雜的HPC工作負載。
美光HBM3E 12層堆疊36GB記憶體現已通過多個領先AI平台的認證。
