洛克威爾自動化宣布與微軟擴大策略合作，致力顛覆工業轉型，一同提供製造商先進的雲端和AI解決方案，建構卓越的數據洞察力、精簡產線流程並強化可擴充性，推動製造業的營運效率與永續成長。 洛克威爾自動化全球客戶創新總監Jessica...

微軟(Microsoft)與合作夥伴共同推出首批支援CoPilot+功能的Windows AI PC。這些新型PC裝置神經處理單元(NPU)，基礎運算效能達 40 TOPS，可應對多模態生成式AI工作負載，展現前所未有的智慧型效能。   高通(Qualcomm)藉此機會推出Snapdragon...

生成式人工智慧(AI)從2023年起，成為最受產業注目的技術，目前已逐步導入各行各業，深入垂直領域應用，並幫助台灣產業升級。日前台灣微軟宣布啟動「AI+ Taiwan」計畫，除包括Microsoft 365在台資料中心落地服務正式啟用，並推出多元人才培育計畫與免費課程提升台灣產業實力。同時，微軟也與政府共築資安聯防，透過分享情資以及推動零信任架構等，保障台灣網路安全，實現AI智慧島嶼願景。 台灣微軟宣布啟動「AI+...

Ansys和台積電宣布與微軟進行成功的試驗，大幅加速矽光子元件的模擬和分析。兩家公司共同透過微軟Azure NC A100v4系列虛擬機器，在Azure AI基礎架構上執行的NVIDIA加速運算，將Ansys...

微軟(Microsoft)提出「Copilot+PC」一詞，為AI PC市場開闢了新戰場，除了對硬體規格有更進一步的定義外，也具體化地端出AI商用實例，體現AI PC價值所在。同時更指引出AI PC將不僅止於硬體設備，更關乎軟硬體生態系的多元性與夥伴關係，藉此也將對台灣電子產業帶來新的氣象與發展機會。 軟體生態圈重要性持續提升 目前品牌廠所提供的AI應用，包含ASUS透過AiSense紅外線偵測，跟隨使用者視線進而調節螢幕亮度，並根據使用者離開、返回進行智慧鎖定與解鎖，以及StoryCube應用程式透過AI智慧排序與管理檔案；Acer...

微軟(Microsoft)提出「Copilot+PC」一詞，為AI PC市場開闢了新戰場，除了對硬體規格有更進一步的定義外，也具體化地端出AI商用實例，體現AI PC價值所在。同時更指引出AI PC將不僅止於硬體設備，更關乎軟硬體生態系的多元性與夥伴關係，藉此也將對台灣電子產業帶來新的氣象與發展機會。 以Copilot延伸軟硬體版圖 在Microsoft...

台灣微軟(Microsoft)與聯發科共同宣布在AI教育雲上的首個合作計畫–Microsoft x MediaTek DaVinci教育雲，以促進台灣學術領域的 AI 研發與應用、協助培育...

大語言模型掀起生成式AI浪潮，但大語言模型會占用大量記憶體，對處理器的運算能力要求也不低，使得大語言模型要部署在智慧型手機、NB等用戶端裝置上，會遇到許多障礙。為克服此一挑戰，輕量化的小語言模型遂應運而生。 大語言模型(LLM)是當前生成式AI熱潮的幕後推手，但動輒上百億，甚至上千億參數的大語言模型，其實很難部署在運算資源有限的PC，甚至智慧型手機等本地端設備上。因此，Google、微軟(Microsoft)等生成式AI領域的龍頭業者在競相發展大語言模型之外，也將一部分注意力放在小語言模型(SLM)的發展上；蘋果(Apple)亦直接從小語言模型出發，希望將基於小語言模型的生成式AI應用帶進iOS生態系統中，以便與Android陣營抗衡。 LLM...

AMD在微軟開發者大會(Microsoft Build)為微軟客戶與開發人員展示其最新端對端運算與軟體功能。透過運用AMD Instinct MI300X加速器、ROCm開放軟體、Ryzen AI處理器與軟體以及Alveo...

生成式AI無疑是當前科技業最熱門的話題，同時也是含金量最高的應用市場。為搶奪商機，英特爾跟超微都已將NVIDIA視為頭號對手，並推出針對性的產品方案。但AI是NVIDIA苦心經營十多年的戰場，要抽乾NVIDIA的護城河，談何容易？ 中階市場迅速膨脹　薄利多銷還是有機會 但如果把目光從追求SOTA的頂級客戶群轉向廣大的中小企業客戶群，英特爾跟超微主攻性價比的策略，亦有其道理。 英特爾平台研發協理王宗業就指出，如果只看商用市場，LLM的模型規模成長速度已經放緩，尤其是需要本地部署的應用，很少有企業會在真實應用中使用大於13B的大模型，7B跟13B才是最常見的模型規模。畢竟，一個參數需要20~22個Token才能充分訓練，但一般企業很少有上千億個詞元(Token)的資料集可以拿來訓練模型。與其一味追求大模型，不如用規模略小，卻能充分用自己的資料集來微調的模型。在實際應用上，經過良好微調的小模型，表現往往能勝過規模更大的模型。 如果在企業市場上，模型規模的成長速度已經放緩，甚至收斂在7B~13B之間，採用最頂級硬體就不一定有必要性。畢竟，企業內部的硬體投資還是要以自身真實的算力需求為依歸。此時，性價比平衡的方案就有勝出的機會。 事實上，近期在開源社群裡，有越來越多人以消費性顯卡來訓練生成式AI模型，甚至有TinyCorp這種以消費性顯卡為基礎，針對中小企業客戶或小型開發團隊打造生成式AI硬體平台的公司出現。由此可以看出，生成式AI的應用市場已開始兩極化發展。在光譜的一端是微軟(Microsoft)、亞馬遜(Amazon)、Meta等可以一擲千金，只為追求極致性能的大企業，另一端則是為數眾多但預算有限的中小企業客群。 圖2　TinyCorp所推出的TinyBox，內建6張超微或NVIDIA最頂級消費性顯卡，目標鎖定中小企業或小型AI開發團隊 對晶片商與相關硬體製造商來說，這兩種客群都有經營的價值，只是要做中小企業客群的生意，在軟體支援方面會需要下更多功夫。畢竟中小企業客群的IT技術能力無法與大型網路公司相比，而且這類客戶也更依賴開源社群。如果要經營中小企業客群，開源社群的經營是必要條件。 TinyCorp在開發其產品時，就曾抱怨超微的韌體沒有開源，導致其產品開發遭遇瓶頸，只好轉而開發基於NVIDIA消費性顯卡的方案。此事驚動了超微執行長蘇姿丰親自回應，也使超微宣布將開源其部分軟體，包含最關鍵的微引擎排程器(Micro...

根據市場研究機構Omdia的統計數據顯示，在人工智慧市場火熱的當下，大企業購併AI公司的興趣卻在明顯減少，而且主要買家的背景也從過去幾年的大型雲端服務供應商轉變為包含IC設計在內的半導體業者，以及IT...

根據TrendForce最新預估，以2024年全球主要雲端服務業者(CSP)對高階AI伺服器(包含搭載NVIDIA、AMD或其他高階ASIC晶片等)需求量觀察，預估美系四大CSP業者包括Microsoft、Google、AWS、Meta各家占全球需求比重分別達20.2%、16.6%、16%及10.8%，合計將超過6成，居於全球領先位置。其中，又以搭載NVIDIA...