|
【Arm的AI世界】針對Helium應使用哪個工具鏈?
7 月15

【Arm的AI世界】針對Helium應使用哪個工具鏈?

Arm Helium技術是Arm Cortex-M處理器產品系列的向量擴充(MVE),它可以為小型的嵌入式裝置,針對機器學習(ML)與數位訊號處理(DSP)應用,帶來顯著的效能提升。Helium可協助克服許多應用項目的運算挑戰…

Read More
【Arm的AI世界】Kleidi助力開發人員加速AI創新
6 月27

【Arm的AI世界】Kleidi助力開發人員加速AI創新

Arm Kleidi是一項廣泛的軟體和軟體社群參與計畫,目的在於加速AI發展。首先推出運用於熱門AI框架的Arm Kleidi軟體函式庫,開發人員可以直接取得Arm CPU出色的AI功能;而如今全球從雲端到邊緣的大多數AI推論工作負載,都在這些Arm CPU上執行。

Read More
【Arm的AI世界】以ExecuTorch與TOSA讓PyTorch在Arm平台順利運作
4 月22

【Arm的AI世界】以ExecuTorch與TOSA讓PyTorch在Arm平台順利運作

Arm與Meta密切合作在ExecuTorch導入對Arm裝置的初步支援,以Tensor運算子集架構(TOSA)為基礎擷取類神經網路,並利用Ethos NPU在行動及嵌入式平台加速關鍵的ML工作負載…快來了解如何使用PyTorch及ExecuTorch以TOSA將圖形匯出至Arm平台!

Read More
【Arm的AI世界】能將神經網路提升至更高境界的ML推論諮詢工具
3 月12

【Arm的AI世界】能將神經網路提升至更高境界的ML推論諮詢工具

Arm正在運用以支援AI快速發展為設計目標的解決方案,來打造邁向未來的路徑。其中的一項挑戰,是讓相關社群能夠取用新興的技術。在這篇部落格文章中我們將介紹Arm機器學習推論諮詢工具(Arm ML Inference Advisor,Arm MLIA),並讓大家看到如何運用它來提升Arm IP的模型效能。我們同時也會解釋一些相關的前置作業,以及為何這些作業如此重要。

Read More
【Arm的AI世界】用Vela編譯器在Ethos-U NPU部署神經網路模型
2 月20

【Arm的AI世界】用Vela編譯器在Ethos-U NPU部署神經網路模型

為了因應這波邊緣與終端AI裝置浪潮,Arm特地設計了microNPU 機器學習(ML)處理器Ethos-U,為面積受限的嵌入式與物聯網裝置加速ML推論。要在Ethos-U上部署神經網路(NN)模型,第一步須使用Vela來編譯你已備妥的模型。Vela是一種開源Python工具,可以將神經網路模型最佳化為能在內含Ethos-U NPU的嵌入式系統上執行之特定版本;這篇文章將展示使用Vela編譯模型的工作流程。

Read More
【Arm的AI世界】利用Arm機器學習嵌入式評估套件快速部署Edge AI應用
1 月15

【Arm的AI世界】利用Arm機器學習嵌入式評估套件快速部署Edge AI應用

Cortex-M55處理器是Arm Cortex-M處理器中人工智慧功能最強大的,也是第一顆基於Arm Helium技術的CPU。儘管Cortex-M55在微小的微處理器上運作機器學習模型速度已經很快了,不過它與Arm Ethos-U55 microNPU完成整合後,在嵌入式系統中最快可讓機器學習推論速度提升480倍。本文將告訴大家如何運用開源的Arm機器學習嵌入式評估套件快速打造並部署嵌入式機器學習應用!

Read More