NVIDIA因應生成式AI擴展機器人平台

NVIDIA近日宣布NVIDIA Jetson平台上邊緣人工智慧和機器人技術兩個框架的重大擴展。NVIDIA Isaac ROS機器人框架已經正式推出,接下來將推出Jetson上NVIDIA Metropolis的擴充。 為了加速人工智慧應用在邊緣的開發和部署,NVIDIA還為Jetson開發人員創建了一個生成式人工智慧練習場(Generative...
2023 年 10 月 20 日

耐能AI晶片KL730驅動輕量級GPT應用

人工智慧(AI)公司耐能日前發布KL730晶片,KL730整合了車規級NPU和影像訊號處理器(ISP),並將安全而低耗能的 AI,賦能到邊緣伺服器、智慧家居及汽車輔助駕駛系統等各類應用場景中。針對大型語言模型帶來的耗能挑戰,KL730可以大幅節省AI運算的功耗。 耐能創辦人兼執行長劉峻誠說明,包含OpenAI、Google等科技大廠的碳排量急劇攀升,但這些廠商也訂下減碳目標,期望在發展大型語言模型技術的同時,兼顧環境議題。而採用NPU晶片取代GPU,即是大量減少功耗的有效策略。台灣建立自己的ChatGPT的目標,也能透過NPU晶片實現。 左起為國立台灣大學電機工程學系名譽教授陳良基、耐能創辦人暨執行長劉峻誠、行政院副院長鄭文燦 KL730從設計之初就以實現...
2023 年 08 月 17 日

資策會成立AI 133 Lab推進生成式AI應用

資策會軟體技術研究院(軟體院)於8月2日舉辦「生成式AI軟體開發新生態」研討會,邀請中華民國資訊軟體協會、中華智慧運輸協會及醫療等公協會,共同見證AI 133 Lab啟用儀式,透過串聯生成式AI資訊服務生態系統,助力企業推進生成式AI應用。 面對生成式AI技術爆發性的發展,生成式預訓練模型(Generative...
2023 年 08 月 04 日

生成式AI創造大量需求 美光搶推第二代HBM3記憶體

基於大規模語言模型(LLM)的生成式AI,不僅考驗處理器的運算效能,也對高頻寬記憶體(HBM)的容量跟頻寬帶來更高的要求。為搶占生成式AI所帶來的巨大商機,美光(Micron)近日發表其第二代HBM 3產品,藉由堆疊8層與12層DRAM,搭配更小的TSV間距,美光第二代HBM...
2023 年 07 月 31 日

半導體產業先蹲後跳 AI撐起晶片市場V形反轉

全球半導體市場自2022下半年歷經市場低迷,2023下半年可望迎來半導體產業觸底反彈的趨勢。人工智慧(AI)半導體則在大環境衰退的局勢下持續成長,快速成長的AI運算需求,以及AI終端應用潛能爆發,接連帶動AI專用晶片的市場成長。 台灣與全球半導體市場在2022...
2023 年 07 月 05 日

ChatGPT再掀新高潮 科技廠爭搶生成式AI商機

ChatGPT作為大獲成功的生成式AI應用,提高市場對於生成式AI的關注與信心。在這波生成式AI的熱潮下,不少企業投入大量資源,期望搶得AI商機。生成式AI技術的大幅進展,仰賴近年來資料量、算力與演算法的長足進步。在AI技術進展的基礎下,大型科技廠商與新創廠商都積極投入相關的服務/產品研發。針對生成式AI為台灣帶來的機會,專用模型是台灣廠商的優勢所在,可結合開源技術與產業知識,主攻產業應用的專用模型。 生成式AI仰賴資料/算力/演算法的大幅進展 生成式A...
2023 年 06 月 06 日

資策會MIC:生成式AI專用模型商機可期

ChatGPT帶起生成式AI的熱潮,產業無不關注切入此次AI商機的機會。日前資策會產業情報研究所(MIC)研討會中,產業分析師楊淳安提及,台灣資通訊業者可由三大模式,包含訓練大型語言模型、開發客製化的專用模型,以及串連國際廠商API來搶攻商機。台智雲總經理吳漢章博士指出,台灣已經部署台灣杉二號的超算資源,在專攻產業應用的生成式AI方面具有優勢。 吳漢章分析,台灣已經具備發展大型語言模型的資源,但是相較ChatGPT面向大眾市場,台灣市場較小,因此發展生成式AI,需要從產業內的專用模型切入。在生成式AI蓬勃發展的趨勢下,台智雲積極建立開放生態系,並計畫推出彈性的企業生成式AI解決方案AI...
2023 年 05 月 15 日

NVIDIA開源軟體協助AI聊天機器人增加護欄

生成式人工智慧的安全是整個產業關注的重點,NVIDIA設計了NeMo Guardrails可適用於所有大型語言模型(LLMs)一起使用,像是Open AI的ChatGPT。該軟體可讓開發人員校準以大型語言模型驅動的應用程式,使其安全並維持在一個公司專業領域範圍內。 最新發布的開源軟體可以協助開發人員引導生成式AI應用程式創建令人印象深刻的文字回應,並使其保持在正軌上。NeMo...
2023 年 04 月 28 日

ChatGPT挺進AI 2.0 生成式AI攻克LLM天險

聊天機器人ChatGPT從2022年11月下旬開放用戶免費試用後,因其可以根據用戶輸入的要求,生成非常多文字、散文、笑話、詩歌甚至程式碼,使用者的使用體驗不但非常直覺,過程更有如在跟正常人類互動一般,馬上掀起一股使用熱潮。根據瑞士銀行集團的研究,ChatGPT在2023年1月活躍用戶就已達到1億,成為史上成長最快的消費者應用程式。 這股因為ChatGPT帶起的生成式AI(Generative...
2023 年 04 月 24 日

從ChatGPT透析國力競爭/中國AI發展(2)

ChatGPT為人工智慧(AI) 取得了階段式的勝利,甚至引爆了全社會對生成式AI和大模型技術的關注。AI大模型由於參數量大, 需要更大體量的資料和更高的算力支撐,因此對晶片用量的更大需求、晶片規格的更高要求,已經成為明顯趨勢。 從ChatGPT透析國力競爭/中國AI發展(1) 催生更高記憶體要求 受惠於ChatGPT火熱,產業內有消息指出,三星、SK海力士兩家記憶體大廠旗下高頻寬記憶體(High...
2023 年 03 月 28 日

從ChatGPT透析國力競爭/中國AI發展(1)

ChatGPT為人工智慧(AI) 取得了階段式的勝利,甚至引爆了全社會對生成式AI和大模型技術的關注。AI大模型由於參數量大, 需要更大體量的資料和更高的算力支撐,因此對晶片用量的更大需求、晶片規格的更高要求,已經成為明顯趨勢。 因為ChatGPT,人工智慧(AI)取得了里程碑式的勝利,甚至引爆了全社會對生成式AI和大模型技術的關注。AI大模型由於參數量大、運算量大,...
2023 年 03 月 28 日

NVIDIA強化運算速度 AI推論/LLM加速簡化工作流程

NVIDIA近期於GTC發布人工智慧(AI)推論平台的更新,以及提供企業大型語言模型(LLM),簡化語言模型的部署。推論平台的更新包含NVIDIA Triton推論伺服器軟體的新功能,可在所有AI模型及框架上提供跨平台推論,以及可最佳化...
2021 年 11 月 11 日
1 2 3 ... 7