【Arm的AI世界】用Vela編譯器在Ethos-U NPU部署神經網路模型

Posted By Arm作者群 on 2 月 20, 2024 in Arm, Arm, Edge AI, Edge AI解決方案, Edge AI開發地圖, Edge AI開發環境, TinyML, Vela Compiler, 教學文

為了因應這波邊緣與終端AI裝置浪潮，Arm特地設計了microNPU 機器學習(ML)處理器Ethos-U，為面積受限的嵌入式與物聯網裝置加速ML推論。要在Ethos-U上部署神經網路(NN)模型，第一步須使用Vela來編譯你已備妥的模型。Vela是一種開源Python工具，可以將神經網路模型最佳化為能在內含Ethos-U NPU的嵌入式系統上執行之特定版本；這篇文章將展示使用Vela編譯模型的工作流程。