進展迅速的生成式AI 正在為各行各業的日常營運帶來變革，讓不少開發者與新創團隊躍躍欲試，希望能從中挖掘新商機、展現實力與創意。然而，要投入這些新興AI應用的開發，首先就得跨越諸多障礙，包括建置硬體與高性能算力的高昂成本、資料處理、模型最佳化等新技術整合等挑戰。為此，國科會旗下國家實驗研究院國家高速網路與計算中心（以下簡稱「國網中心」）推出了名為「TAIWAN AI RAP」的台灣專屬AI應用開發平台，並於近日正式啟動試營運計畫，開放國內正在進行AI應用開發的資訊服務業者、新創公司、中小企業與學研單位提案申請加入。
國網中心表示，試營運申請將分為兩階段，第一階段申請時間為即日起至4月24日，第二階段為7月7日至7月16日；申請者需提出開發AI產品或服務之規劃，國網中心將從AI 開發潛力、應用效益、技術創新、產業價值、市場契合度等方面進行評選，選擇擁有清晰AI開發願景以及對AI應用開發、模型訓練或AI服務普及化有高度企圖心的團隊，通過評選者將獲得約等值於國網中心iService服務新台幣65萬元算力額度的免費GPU算力。
具備台灣專有特色的AI開發平台
國網中心表示，「TAIWAN AI RAP」（RAP為Resilient AI Platform的縮寫，意味靈活、高效率的AI平台）具備三大特色，包括客製化流程設計前台、多模型 API 服務，以及模型微調與評估。在客製化流程設計前台部分，開發環境整合AI工具與工作流程，即是無技術背景的使用者也能輕鬆上手，支援彈性化的快速部署與介面設計，以降低開發門檻、提升應用落地效率。
在多模型API服務方面，內建多種開源模型，除了支援本土TAIDE系列模型，亦支援國際主流基礎模型如Meta Llama、Microsoft Phi、Mistral系列等，並透過API提供無縫整合服務，企業可靈活選用最適合自身需求的模型。模型微調與評估部分則可協助簡化AI訓練與資料處理，提升模型的準確性與適用性。
因為採用開源架構，「TAIWAN AI RAP」致力於整合開源軟體工具與國內各企業解決方案，國網中心強調，無論是前端、中介層或是模型等來自外界的LLM解決方案，都可以整合至服務框架內提供；藉此也鼓勵國內AI服務開發者將自家AI工具掛載至TAIWAN AI RAP進行概念驗證，打造台灣專有「AI Tribe」的多元AI生態聚落，透過共享技術與應用共創，促進產業創新與協同發展。
在硬體優勢方面，「TAIWAN AI RAP」建構於國網中心AIHPC算力及獨立機敏資料庫之上，可確保高效能與資訊安全，並支援地端、雲端或混合二者的部署模式，可依照使用者需求進行客製化設計。此外除了支援NVIDIA GPU，也支援台灣廠商的推論硬體加速卡及其他廠牌GPU，透過「混合式+異質性」的LLM推論引擎提供高度可用性及平衡附載(Load Balancing)。
期望激勵各行各業創新AI應用
而根據國研院國網中心的分享，「TAIWAN AI RAP」已經在涵蓋醫療、教育、工業製造、商業客服、畜牧農業等不同領域有一些初步的應用開發成果。例如與高雄榮民總醫院合作開發的急診交班紀錄自動生成系統，能讓人力短缺的醫護人員迅速在交班時準確掌握病患資訊、減少人工錯誤、提升工作效率與病患照護品質；還有與農業部旗下農業科技研究院合作開發的豬隻行為監測與健康異常智慧查詢系統，能讓畜牧業者透過簡單互動查詢即時掌握豬隻的健康狀況，大幅節省人力與時間。
此外在教育應用方面與業者合作開發的個性化學習助理，能針對不同學生的學習進度提供個人化建議，協助提升學習效果並掌握學生進步情況；以及運用在商家即時互動客服機器人、智慧製造生產狀況監測、智慧工廠管理決策等等的系統，展現AI技術的無限可能。國研院國網中心歡迎未來有更多國內業者與團隊加入「TAIWAN AI RAP」，推動台灣的AI創新應用與發展。
(本文轉載自vMaker台灣自造者，原文連結：https://vmaker.tw/archives/74172)
