Arm推出SME2技術 重塑行動AI效能與開發者體驗

為因應在用戶端裝置上更有效率地執行各種AI運算任務,Arm推出可擴展矩陣延伸指令集2(Scalable Matrix Extension 2, SME2)技術,以直接在行動CPU上加速高強度的矩陣運算工作負載。這類運算負載對機器視覺和生成式AI應用相當重要。SME2是Armv9架構中的一組高階CPU指令集,它是基於SME升級、能夠在AI異質運算框架下,支援影像處理、自然語言處理、語音生成等在行動端的即時推論任務。 從按下快門前就對照片進行即時銳化,到通話過程中即時消除背景雜音,再到離線狀態下與AI助理互動,裝置端AI正在重塑使用者的行動體驗。而Arm運算平台正是實現這些無縫互動體驗的強勁驅動力。隨著AI工作負載變得日益複雜且已廣泛地應用於各個領域,行動開發者面臨的需求也與日俱增:他們需要在記憶體、電力和熱能條件等嚴格且多樣化的限制下,實現即時且高效率的效能表現,還要確保不為應用程式及其工作負載增加額外的複雜性。 為滿足行動應用開發者的需求,Arm推出了SME2。行動開發者無需更動現有程式碼、模型或應用程式,即可直接取得SME2帶來的效能提升。這可歸功於Arm的軟體加速層...
2025 年 07 月 18 日

Arm終端產品運算子系統全面啟動 高速運算擁抱行動AI世代

Arm終端產品運算子系統(Arm CSS for Client),在提高整體運算效能、強化人工智慧運算能力與優化省電續航三大主軸下,帶領智慧終端實現下一波運算性能需求。Arm並舉辦Tech Day深入解析相關技術架構與設計理念。 人工智慧(AI)時代正式降臨,AI...
2024 年 07 月 04 日

Arm執行長Rene Haas:Arm新推KleidiAI力助AI應用開發

生成式人工智慧(AI)在快速發展下,AI運算所需的龐大能源,為科技產業帶來挑戰。Arm執行長Rene Haas在Computex2024主題演講中表示,世界是否有足夠的能源來支援,以因應AI 持續增加的運算需求,是重要的議題。雖然在AI領域可以看到驚人的創新,但這個產業正處於一個有趣的兩難處境:處理AI效能需求的處理器越好,能源需求就越大。 由於Arm的DNA源自設計電池供電的裝置,Arm提供節能的CPU,並且其節能的優勢已經在推動更多AI創新。Haas認為這也是為什麼越來越多雲端服務提供商,如AWS、Google和Microsoft等採用Arm的技術。Arm協助Google的Axion晶片增加60%的能源使用效益,並且幫助NVIDIA...
2024 年 06 月 04 日