OpenVINO工具套件AI程式講座
|
View Categories

認識ARM Ethos-U85微神經處理器(MicroNPU)

閱讀時間: < 1 分鐘

ARM Ethos-U85 是 ARM 新推出的微神經處理器(MicroNPU),專為邊緣人工智慧(Edge AI)應用設計,特別適用於資源受限的嵌入式系統,例如智慧家庭、工業自動化、醫療裝置與穿戴式設備。如果你想用它來開發Edge AI專案,可以搭配 CMSIS-NN、TVM、TensorFlow Lite Micro 或 Meta 的 ExecuTorch 等開源框架使用,可以簡化模型部署流程,並最大化硬體潛能。

Ethos-U85功能特色 #

ARM Ethos-U85 是一款兼具效能、彈性與能效的 AI 運算加速NPU,適合在對功耗、反應速度與運算需求皆有要求的嵌入式應用中部署先進的 AI 模型。它可滿足在邊緣端日益成長的運行先進人工智慧(AI)推論工作負載的需求,包括諸如大型語言模型等基於Transformer的網路。

在效能與彈性上,Ethos-U85 較前代產品(如 Ethos-U55)有顯著提升,可支援高達 4 TOPS(兆次運算/秒),適用於複雜的機器學習模型,同時保持極低的功耗表現,非常適合電池供電的設備。它採用可擴展的設計,支援多達 4 個計算引擎核心,可依系統需求進行調整。

Ethos-U85系統功能圖(Source

Ethos-U85 專為執行量化的神經網路(如 INT8 或混合精度模型)所設計,並與 ARM 的 Cortex-M 與 Cortex-A 處理器無縫整合,支援 ARM 的整體 Compute Subsystem 架構。它同時提供豐富的工具與開發者資源,包含模擬器、性能分析工具與最佳化建議,協助開發者針對目標應用進行調整。

Ethos-U85 系統架構流程圖(Source

Arm針對Ethos-U提供參考設計,如 Arm Corstone-320物聯網參考設計平台,以加速和簡化晶片開發週期。參考設計平台中包含固定虛擬平台(Fixed Virtual Platform,FVP)等許多項目,FVP可模擬整個系統,為在Ethos-U85平台上進行尖端的嵌入式軟體發展和類神經網路部署提供支援。

開發工具:ExecuTorch #

Arm透過在Ethos-U85上支援ExecuTorch測試版,為開發人員建構物聯網邊緣端應用提供了更多支援。開發人員可以借助ExecuTorch,高效率地部署原生開發的PyTorch模型,基於Arm平台建構出智慧且回應迅速的物聯網(IoT)解決方案。隨著該套裝軟體的推出,想要創建邊緣端AI應用的開發人員,能夠在平台上市前數月就開始模型和應用的軟體發展工作。至於在Ethos-U85上要如何使用ExecuTorch,請見【Arm的AI世界】三步驟輕鬆在Ethos-U85上使用PyTorch與ExecuTorch

》延伸閱讀:

Arm Ethos-U官網介紹

 

Powered by BetterDocs

Submit a Comment

發佈留言必須填寫的電子郵件地址不會公開。 必填欄位標示為 *