繼2024年推出邊緣推論加速器EdgeThought之後,Skymizer日前正式發表全新一代AI加速器IP:HyperThought。此新產品專為應對即時、多模態與Agent型AI的日益成長需求而設計,代表AI加速性能、擴展性與部署靈活性的趨勢。
Skymizer的LPU IP不僅是加速器,更是一個可完全整合的子系統,賦能SoC團隊設計並部署專屬應用的客製化AI晶片。HyperThought讓開發者能自由結合自身主機CPU及邊緣子系統,實現領域特定智能整合。
HyperThought採用Skymizer最新的Language Instruction Set Architecture(LISA)v3,支援多模態處理、並行多模型執行,以及原生Agent型AI工作流程。搭配更新版的編譯器與執行時平台,HyperThought提供更好的運算、記憶體與頻寬效率,適用於從智慧設備到自動化系統的各類邊緣AI應用。
Skymizer 行銷長魏國章表示,EdgeThought將大型語言模型推理帶到邊緣,HyperThought則讓邊緣更智慧。透過LISA v3,可以加速token,而是啟動具備推理、多模態互動與即時適應能力的智能Agent。
HyperThought 核心特色:
- 建構於LISA v3:Skymizer第三代語言指令集架構,具備動態圖控制、平行Agent執行與進階記憶體操作,並完全由硬體支援。
- 多模態能力:支援文字、影像與指令型模型的無縫執行,資源共享,彈性高效。
- 並行多模型執行:可同時推理多個量化後的LLM,適用於低延遲、多應用場景。
- Agent型AI架構:支援持續運作、具目標導向的Agent,可執行互動式與具情境推理的任務。
- 最佳化軟體堆疊:與硬體共同設計的編譯器與執行時平台,有效平衡運算、記憶體與頻寬。
- 可擴充整合性:模組化設計,體積精巧,適合快速整合至行動裝置、嵌入式系統與車規級SoC。
Skymizer技術長Luba Tang指出,HyperThought是Skymizer迄今為止最先進的LPU。LISA v3不僅支援語言模型,更支援即時智能系統,能感知、推論與適應。