全球企業正在加速部署新一代人工智慧的應用,並建置AI就緒的資料中心,以實現自動化並提升營運效率。這些創新應用需要超高效能的AI與大型語言模型(LLM)推論環境來提供即時回應,以及新的網路安全解決方案來保護這些關鍵基礎設施。
為了協助企業建構與防護AI環境,A10 Networks將於2025年6月11至13日,在日本東京Interop Tokyo「AI走入現實」大會中,展示全新的AI防火牆與預測性效能技術。
A10宣布推出全新AI防火牆功能,可部署於公開大型語言模型的API或URL前端,既可以作為自訂LLM,也可以基於商業解決方案開發。此防火牆基於針對邊緣運算最佳化的架構,並搭載GPU加速硬體,能以高效能方式保護LLM,且可靈活部署於各類基礎架構中,作為一項增強型的安全功能。
這些功能可協助企業預防、偵測並緩解AI層級的威脅,使用戶能針對已知漏洞測試其AI推論模型,並透過A10專利的LLM安全防護技術予以修正。該功能能針對Prompt級別的請求與回應流量進行檢測,有效辨識如提示注入與敏感資訊外洩等威脅,並執行必要的安全政策來進行防護。
A10持續致力於為AI與LLM驅動的應用提供高效能與高可用性。透過卸載如TLS/SSL解密、快取管理、流量路由最佳化等資源密集型任務,A10解決方案可大幅提升網路可用性與效能,並提供可行的洞察以供營運決策。
最新功能具備類似預警系統的能力,能提前偵測網路效能瓶頸與潛在擁塞,協助用戶在問題擴大前主動調整,預防非計劃性的停機,並最佳化整體網路規劃與效能管理。此預測性效能分析功能運行於搭載GPU的A10設備上,能高速處理海量資料,並提前分析異常情況,提供即時洞察。
這些AI安全與基礎架構能力相輔相成,讓管理更為簡易,威脅偵測更具智慧與準確性,進一步協助企業提供最佳的使用者體驗。
A10 Networks總裁兼執行長Dhrupad Trivedi表示,企業正以前所未有的速度在本地或雲端環境中部署並訓練AI與LLM推論模型,這也帶來延遲、安全與操作複雜度等挑戰。A10擁有逾20年保護與最佳化應用交付的專業經驗,現正擴展解決方案,提供AI與LLM基礎架構所需的高韌性、高效能與高安全性支援。