RAG整合工作流程 GAI走入嵌入式系統

近年來,與人工智慧(AI)相關的週期性熱點,幾乎都圍繞著大語言模型(LLM)和生成式AI模型。這樣的趨勢反映出這些話題的影響力,日益增強和普及。與大語言模型和生成式AI模型相關的應用涵蓋廣泛的領域,從開放式聊天機器人到任務型助手。雖然LLM主要聚焦基於雲端和伺服器端的應用,但人們對在嵌入式系統和邊緣設備中部署生成式A模型的興趣也不斷增加。...
2024 年 12 月 10 日

多模態將創殺手級應用 LLM/SLM並肩向前

生成式人工智慧(GAI )的應用方向在2024年成型,除了ChatGPT的用戶數量快速成長,適合企業應用的客製化模型,以及用於終端裝置的小型語言模型(SLM)也嶄露頭角。參數更多的模型、多模態與AI代理人(AI...
2024 年 12 月 10 日

Synaptics總裁兼執行長Michael Hurlston:押寶Edge AI應用擴大台灣布局

在生成式AI的浪潮之下,人工智慧相關應用已經成為廠商布局重點,因此Synaptics看好台灣未來在產業鏈的關鍵地位,搶占240億美元AIoT市場快速成長商機,積極投入邊緣運算技術與產品,專注於運算能力5~10...
2024 年 12 月 04 日

數據隱私/模型偏見現風險 GAI聯邦學習助資料治理

生成式人工智慧(GAI)的快速發展是雙面刃,為產業帶來亮眼的應用進展,然而假資訊、模型偏見與資料管理等風險也隨之出現。面對AI生成的惡意內容,用生成式AI偵測與防範,可有效辨別假資料。在模型訓練方面,來自不同國家的訓練資料會造成模型偏見,因此各國開始發展主權模型,訓練符合當地需求的生成式AI。另一方面,聯邦學習技術的發展,確保訓練資料保留在擁有者手上,可望有效解決資料治理的挑戰。...
2024 年 12 月 03 日

多模態/AI Agent多點開花 生成式AI生態系漸成型

2024年可說是AI技術快速進展的同時,全球企業都在探索如何應用生成式AI,以及持續克服基礎建設挑戰,包含伺服器散熱、高速資料傳輸技術與記憶體應用的一年。生成式AI協助使用者生成文字、圖片、影像與程式碼等內容,也能學習特定企業的內部資料,應用於線上客服或者內部資料查詢。多模態模型的應用,協助AI軟體判讀文字、圖片、影像與音訊的內容,優化各行各業的工作流程。除了大型語言模型(LLM)逐漸發展出客製化模型,也有小型化的模型導入到邊緣端,升級現有的終端智慧應用。...
2024 年 12 月 03 日

開源/專用AI模型各擅勝場 生態系優勢旗鼓相當(1)

根據企業需求,開源的內部GenAI模型將提供顯著優勢,利用企業現有基礎設施驅動部署,以在邊緣、客戶端、資料中心運作模型,或作為專屬服務。利用全新的AI微調工具,深度專業知識不再是阻礙。 企業或開發人員在採用生成式AI(GenAI)之前,往往希望了解如何藉由將AI整合至業務中,取得商業價值。鑑於上述考量,衍生的一個基本問題是:什麼方法可以創造最佳投資價值?應該選擇能涵蓋一切的大型專用模型,還是能根據企業需求打造和微調的開源AI模型?AI採用策略廣泛且多樣,從使用新的大型專用模型所提供的雲端服務,如OpenAI的GPT-4o,到針對特定任務所打造的內部解決方案所採用的開源小型模型,各有優勢。...
2024 年 11 月 29 日

開源/專用AI模型各擅勝場 生態系優勢旗鼓相當(2)

根據企業需求,開源的內部GenAI模型將提供顯著優勢,利用企業現有基礎設施驅動部署,以在邊緣、客戶端、資料中心運作模型,或作為專屬服務。利用全新的AI微調工具,深度專業知識不再是阻礙。 模型整合資料/檢索中心生成的差異...
2024 年 11 月 29 日

開源/專用AI模型各擅勝場 生態系優勢旗鼓相當(3)

根據企業需求,開源的內部GenAI模型將提供顯著優勢,利用企業現有基礎設施驅動部署,以在邊緣、客戶端、資料中心運作模型,或作為專屬服務。利用全新的AI微調工具,深度專業知識不再是阻礙。 生成即服務雲端執行/託管執行環境...
2024 年 11 月 29 日

台灣GAI應用2025起飛 微軟在地資料中心啟用應援

生成式人工智慧(AI)從2023年起,成為最受產業注目的技術,目前已逐步導入各行各業,深入垂直領域應用,並幫助台灣產業升級。日前台灣微軟宣布啟動「AI+ Taiwan」計畫,除包括Microsoft 365在台資料中心落地服務正式啟用,並推出多元人才培育計畫與免費課程提升台灣產業實力。同時,微軟也與政府共築資安聯防,透過分享情資以及推動零信任架構等,保障台灣網路安全,實現AI智慧島嶼願景。...
2024 年 11 月 15 日
第七屆物聯網安全高峰論壇貴賓合影

物聯網安全再掀關注熱潮 高峰論壇嘉賓雲集熱烈成功

  數位發展部部長黃彥男,在第七屆物聯網安全高峰論壇的致詞中強調,物聯網安全是台灣在AI時代發展數位經濟的重要基礎。   堂堂邁入第七屆的「物聯網安全高峰論壇」今日在台北熱烈開展,由城邦媒體集團旗下的新電子科技雜誌、新通訊元件雜誌及網管人雜誌聯合主辦,吸引了產業界眾多資訊安全與物聯網專業人士踴躍參加。今年論壇以「唯有零信任,才有可信賴」為主題,深入探討生成式AI與Edge...
2024 年 11 月 13 日

資策會軟體院公布2025十大AI關鍵技術 AI Agent/邊緣AI上榜

生成式人工智慧(GAI)從2023年開始,帶動新一波的AI熱潮。在AI與大型語言模型的快速發展下,台灣廠商積極思考導入AI來提升企業競爭力,在國際上掌握更強大的競爭優勢。日前資策會軟體技術研究院在2024...
2024 年 11 月 08 日

因應AI時代資安挑戰 第七屆物聯網安全高峰論壇即將登場

第七屆物聯網安全高峰論壇即將於2024年11月13日在台北市信義區華南銀行國際會議中心舉行。論壇以「唯有零信任,才有可信賴」為主題,聚焦在生成式AI和Edge AI的快速發展下,展望物聯網裝置應用在2025年所面臨的資安挑戰,並探討相應的最新防禦技術和解決方案。...
2024 年 11 月 07 日