生成式AI快速發展，在投資資金大幅提高下，生成式AI市場規模迅速成長， 生成式AI潛力無窮，實踐上卻有許多挑戰。其帶動大規模的產業投資與發展，未來更將在各個方面影響社會的走向。
2023年初，ChatGPT如平地一聲雷，讓所有關心科技產業與人工智慧(AI)技術的人們，都體驗了一場震撼教育，生成式AI(Generative AI, GAI)的威力讓所有人驚艷，同時颳起滔天巨浪，成為現今產業中唯一的明星，帶動大規模的產業投資與發展，也形塑未來的產業趨勢，更將在各個方面影響社會的走向，AI的影響力無比巨大也無所不在。
進入2024年，生成式AI快速發展，在投資資金大幅提高下，生成式AI市場規模迅速成長，根據資策會產業情報研究所MIC的研究顯示，生成式AI發展方興未艾，相關秩序都在建立當中，所以也帶來許多正反兩面的顧慮，比如：生成式AI將創造更多新興的工作機會並提升產業規模。以美國為例，預計生產力將提升1.7~3.5%；同時，未來十年，美國GDP將增加4,770億至1兆美元。另一方面，生成式AI將對許多傳統工作帶來挑戰，已開發國家約60%工作受影響，導致失業率上升與貧富差距擴大。
生成式AI的潛力無窮，實踐上卻有許多挑戰。資策會MIC產業顧問韓揚銘表示，即使系統有不同的服務模式，要建立生成式AI系統仍有許多難題，包含建立可信任AI機制、對應新舊軟體的工程挑戰、遵循全球AI監管治理政策。生成式AI的影響也帶來許多議題思考，在提升生產力與產值、提供淨零轉型數位工具的同時，也衝擊人們就業市場，帶來能耗等問題。長遠來看，生成式AI是否能穩健發展，將取決於未來如何平衡技術創新與社會信任、經濟效益與環境責任，以及遵守日益嚴格的AI政策法律框架。
半導體產業瘋狂追逐高效能AI晶片
在技術發展方面，AI晶片可謂是人工智慧的靈魂，資料中心運算以GPU為主，這部分由國際大廠把持，MIC建議，台灣IC設計產業可著力於智慧物聯網AIoT多元應用。CPU、GPU、FPGA均可進行AI模型運算，但晶片架構影響晶片效能，而專為AI運算所客製化的ASIC則為晶片效能最佳的AI晶片，一般而言，在各類大模型的運算上，目前採用平行運算的GPU還是擁有最佳效能。
AI與生成式AI帶動資料中心高效能運算需求，但資料中心運算是以NVIDIA、AMD的GPU為主要運算配置；台廠在資料中心運算晶片較無發展空間。而隨著Embedded AI運算需求快速成長，台廠的機會應在邊緣、終端應用的物聯網AI推論運算晶片或晶片模組需求，既有IC設計大廠與新創業者均可積極投入開發。
MIC產業顧問鄭凱安表示，AIoT的特色是應用多元化，其AI晶片為少量多樣的需求，然而缺乏規模化會造成開發成本提高，AIoT的AI晶片開發必須達到彈性客製化配置的能力。分析國內外案例，利用通用型晶片或小晶片彈性組合，形成類似客製化的配置，將可有效獲得規模生產的成本控制。
利用先進封裝，協助AIoT晶片藉由小晶片堆疊，滿足功能整合或運算效能提升；其中，記憶體的容量與頻寬對運算效能提升非常重要，除了透過CoWoS封裝將HBM與先進製程運算晶片結合，也有業者發展客製化DRAM與成熟製程Edge AI晶片堆疊的技術，可用於較低成本的AI解決方案。觀察下世代高階運算晶片，無論是電晶體元件的垂直堆疊或背面電軌的內連線結構，都需要精度達到10nm等級的晶片3D堆疊技術支持，成為先進封裝(圖1)發展的重要機會與挑戰。
大廠布局雲端資料中心不落人後
大模型更能充分展現AI的魅力，因此近年雲端資料中心隨AI的發展而持續成長，2024年四大雲端服務商資本支出將持續提升，主要支出於資料中心AI基礎建設。資策會MIC產業分析師陳牧風表示，AI算力需求急增驅動雲端資料中心部署架構產生變化，運算、通訊與儲存等IT設備皆須調整，如AI伺服器需透過更緊密的方式進行叢集等；而基礎設施如直接、沉浸式液體冷卻導入，或不斷電系統(UPS)、配電裝置(PDU)與備援電池(BBU)都需要升級；營運則透過AI智慧化監控資料中心的運作，大幅提升運作效率。另外，邊緣資料中心可協助AI應用在接近資料源的位置進行資料處理，改善AI應用的執行，降低AI應用的延遲性、提升頻寬效率、保障資料安全、雲端斷線仍可確保運作，以及根據需求增加容量等。
展望AI資料中心市場商機，資策會MIC提出兩大趨勢。一為AI資料中心架構將促使不同類型台灣廠商升級產品規格，主要影響AI伺服器，還有網通設備、儲存設備、散熱與基礎設施廠商。陳牧風認為，台系伺服器廠商由代工廠擴展為AI硬體解決方案提供商，在AI伺服器之外也對基礎設施進行布局；另外，液冷散熱系統也成為相關廠商切入的目標。另外，如要使生成式AI應用運作最佳化，將需要AI訓練伺服器在雲端進行叢集來進行AI模型訓練，以及AI 推論伺服器於邊緣端進行AI推論、微調，可大幅改善生成式AI應用的延遲性，預期將同步帶動高階AI訓練伺服器、AI推論伺服器的需求。
