非x86陣營搶進AI PC 生態系成熟度定勝負(2)

作者: 黃繼寬
2024 年 01 月 07 日

為搶食AI應用進駐PC等終端裝置所帶來的商機,Arm陣營的業者也有相當積極的動作,不讓x86陣營專美於前。但在軟體生態系方面,除了蘋果之外,泛安謀陣營恐怕還有許多障礙需要克服。

資料儲存效能的重要性將陸續浮現

目前處理器業者大多還是從運算效能本位的角度出發,強調自家處理器在效能方面的優越性。只有蘋果獨樹一格,在資料儲存方面下足功夫,因此在實際應用層級能與NVIDIA打得有來有往。未來AI PC的發展,勢必會對硬體平台提出更全面的規格要求,而不只是處理器核心跑多快,有幾個TOPS。

美光副總裁暨用戶端儲存事業部總經理Prasad Alluri便認為,現在只是AI PC時代的開端,具備AI功能的個人電腦將會越來越盛行。而隨著時間經過,市場將會重新審視儲存性能對AI表現跟使用者體驗的重要性。

美光有部分SSD產品已針對AI應用最佳化,使其在早期具備AI功能的PC中扮演重要角色、協助PC發揮最大效能。未來的大型語言模型比如Llama或是Gemini的參數數量將多達到100億以上,屆時將會造成記憶體極大負荷,部分語言模型將不得不存放在SSD中。這意味著在模型運行時會進行大量的模型交換。在這個狀況下,SSD性能的好壞,會是影響應用效能跟使用者體驗的關鍵。

隨著未來AI PC的盛行,使用者也會轉移到高效能SSD上。這時,針對AI應用對SSD的效能進行針對性的調校,就能對AI的執行效能跟使用者體驗發揮顯著的提升效果。

高通全力進軍AI PC 生態系支援仍有疑慮

無獨有偶,Arm陣營中的高通(Qualcomm),也於近期發表了專門針對AI PC平台打造Snapdragon X Elite(圖3),並宣稱在效能跟省電性能方面,不僅超越英特爾(Intel)、超微(AMD),也優於蘋果的M2。

圖3 高通藉由推出Snapdragon X Elite處理器,展現出積極進軍AI PC市場的強烈企圖心。

高通資深副總裁暨運算與遊戲部門總經理Kedar Kondap表示,Snapdragon X Elite象徵著運算領域創新的重大躍進,高通客製化的Oryon CPU不僅擁有優異的效能,在功耗表現上也令人驚豔。Snapdragon X Elite將消費者的創意及生產力提升到全新水準。強大的裝置上AI體驗將實現無縫多工及全新直覺的使用者體驗,賦予消費者和企業同樣的創造能力和完成更多工作的能力。搭載Snapdragon X Elite的PC產品,預計將在2024年年中推出。

如果單就帳面規格數字跟跑分結果來看,Snapdragon X Elite確實是一款令人印象深刻的產品,但由於這款處理器鎖定的目標市場是主流跟入門級筆計型電腦,因此在AI方面,恐怕得做出不少妥協。例如,Snapdragon X Elite雖能支援最多64GB記憶體容量,頻寬則為136GB/s,但實際上恐怕不會有多少NB OEM推出搭載64GB記憶體的入門或主流機種,而記憶體容量對生成式AI的重要性,在前面已經有過分析,不再贅述。

此外,高通在討論AI模型精度時,顯然認為INT4是可以接受的精度,畢竟智慧型手機的記憶體容量比NB更加受限,不太可能強求智慧型手機一律使用INT8模型。但許多AI應用開發者或玩家都認為,在INT4精度條件下,生成式AI理解使用者語意,以及其所產生的回應品質,已經很有問題。英特爾的OpenVINO框架,對於支援INT4精度也採取十分小心的態度,現階段僅提供預覽版,還不會納入正式支援範圍。

直言之,作為PC應用市場的挑戰者,高通在產品行銷策略上,很明顯是以硬體效能、省電性能等可以量化的指標作為主要訴求,但AI應用,尤其是生成式AI應用,不只要快速回應,回應的精準程度跟品質也是重點。這部分恐怕只有等到產品上市之後實測才能得知。

另一方面,Windows on Arm(WoA)生態系的成熟度,以及開源社群對Arm平台的支援性,恐怕也會是高通等Arm陣營處理器業者想進入AI PC市場時,必須面對的問題。WoA生態系的發展相當遲緩,而且從微軟(Microsoft)的角度來看,其重要性肯定排在x86之後。如何打破這個軟體生態上面的劣勢,一直是Arm處理器進軍PC市場最大的阻礙。即便自己有獨立軟體生態系統的蘋果,至今也還沒有完全解決Mac原生軟體不足的問題。

在開源社群的經營方面也是如此。跟商用套裝軟體主導市場的時代不同,開源社群是帶領AI應用往前邁進的主要引擎,而且進展速度往往比商用軟體要快得多。如果在開發工具層面無法給這些帶頭向前衝的開發者足夠的支援,那麼,開源軟體社群就不會想要在Arm平台上嘗試各種創新想法,造成整個平台處於落後局面。

因此,在AI產業的領導者,不只會強調自家的硬體效能,更會銳意經營開發者社群,塑造出眾星拱月的氛圍。因為處理器供應商的市場地位,是靠軟體開發者挺出來的。PC產業的老手,不管是英特爾、超微還是NVIDIA,甚至是一直都走自己的路的蘋果,都很清楚開發者的重要性,能吸引開發者的平台,才有長大的機會。

 

非x86陣營搶進AI PC 生態系成熟度定勝負(1)

非x86陣營搶進AI PC 生態系成熟度定勝負(2)

》想看更多內容?快來【免費加入會員】【登入會員】,享受更多閱讀文章的權限喔!
標籤
相關文章

非x86陣營搶進AI PC 生態系成熟度定勝負(1)

2024 年 01 月 08 日

改善GPU架構/記憶體 ARM Mali性能倍增

2010 年 11 月 24 日

多媒體應用高漲 聯網電視加速GPU整合

2010 年 12 月 30 日

中國製造商加入戰局 Win 8與Android平板戰火熾

2012 年 11 月 12 日

PC生態系龍頭火力全開 AI PC來勢洶洶(2)

2024 年 01 月 03 日

巨大機會與挑戰迎面撲來 2024生成式AI全方位啟動(1)

2024 年 05 月 06 日
前一篇
晶片卡結合LED 感應支付既炫又安全
下一篇
英飛凌推出160V雙通道閘極驅動IC