【Arm的AI世界】縮小Edge AI的技能落差
希望運用新型AI和機器學習工作負載的邊緣AI開發團隊,大部分都面對技能落差的問題,導致團隊沒有足夠能力最佳化及加速裝置內的AI。所以有哪些關鍵落差持續存在?讓我們深入探討各個領域的挑戰以及解決方案。
【Arm的AI世界】用Vela編譯器在Ethos-U NPU部署神經網路模型
為了因應這波邊緣與終端AI裝置浪潮,Arm特地設計了microNPU 機器學習(ML)處理器Ethos-U,為面積受限的嵌入式與物聯網裝置加速ML推論。要在Ethos-U上部署神經網路(NN)模型,第一步須使用Vela來編譯你已備妥的模型。Vela是一種開源Python工具,可以將神經網路模型最佳化為能在內含Ethos-U NPU的嵌入式系統上執行之特定版本;這篇文章將展示使用Vela編譯模型的工作流程。
【Arm的AI世界】利用Arm機器學習嵌入式評估套件快速部署Edge AI應用
Cortex-M55處理器是Arm Cortex-M處理器中人工智慧功能最強大的,也是第一顆基於Arm Helium技術的CPU。儘管Cortex-M55在微小的微處理器上運作機器學習模型速度已經很快了,不過它與Arm Ethos-U55 microNPU完成整合後,在嵌入式系統中最快可讓機器學習推論速度提升480倍。本文將告訴大家如何運用開源的Arm機器學習嵌入式評估套件快速打造並部署嵌入式機器學習應用!
【白皮書導讀】嵌入式AI落地,ARM NPU工作架構剖析
嵌入式系統提供「AI應用」已不是空話,目前的主流架構ARM NPU搭配Cortex-A及Cortex-M的方案,本文探討這方案的軟硬體架構及開發環境。