|
【Arm的AI世界】按步驟學習在Arm Ethos-U85上部署PaddlePaddle模型
7 月08

【Arm的AI世界】按步驟學習在Arm Ethos-U85上部署PaddlePaddle模型

Ethos-U85是目前效能最高的Arm Ethos NPU,可因應在邊緣端執行先進AI推論工作負載日益成長的需求,包括LLM等基於Transformer的網路。

Read More
【Arm的AI世界】打造車用裝置端多模態助理
6 月16

【Arm的AI世界】打造車用裝置端多模態助理

這篇文章將探討的題目是:當強大且以隱私為優先的AI直接在車內運作時,將開啟哪些才剛剛開始浮現的新的可能性?

Read More
【Arm的AI世界】運用ExecuTorch與Arm SME2加速裝置端機器學習推論
3 月18

【Arm的AI世界】運用ExecuTorch與Arm SME2加速裝置端機器學習推論

這篇文章將探討ExecuTorch和Arm SME2如何為互動式影像分割等行動端應用場景帶來速度更快、回應更流暢的AI體驗。

Read More
【Arm的AI世界】重新思考CPU在AI中的角色:在DGX Spark上實作實用的RAG
2 月12

【Arm的AI世界】重新思考CPU在AI中的角色:在DGX Spark上實作實用的RAG

本文將深入解析基於CPU的嵌入、統一記憶體與本地檢索工作流程如何相互串接,在桌機級AI平台上打造反應迅速、兼顧隱私的RAG流水線——並由Arm與DGX Spark驅動運算。

Read More
【Arm的AI世界】運用本地端LLM推論重塑智慧家庭的隱私與延遲表現
1 月19

【Arm的AI世界】運用本地端LLM推論重塑智慧家庭的隱私與延遲表現

本文將帶領讀者了解如何透過Raspberry Pi 5與基於Arm的本地端LLM推論,打造一個完全私有、無需依賴雲端、且具備即時效能的智慧家庭助理。

Read More
【Arm的AI世界】Ethos-U迎向新世代:ExecuTorch 1.0驅動邊緣AI大躍進
12 月11

【Arm的AI世界】Ethos-U迎向新世代:ExecuTorch 1.0驅動邊緣AI大躍進

做為PyTorch生態系的一部分,ExecuTorch在創新與嵌入式部署之間建立起更順暢的連結,讓開發者能在各類Arm 邊緣裝置上執行最先進的模型——從搭配Arm Ethos-U NPU、強調低功耗的微控制器,到採用Arm CPU、支撐高效能需求的工業級解決方案皆然。

Read More