【Arm的AI世界】在裸機環境運作KleidiAI MatMul核心
本文將介紹如何在裸機環境中運作KleidiAI微核心,並針對不同編譯器在不同最佳化等級下的表現進行基礎的基準測試。
【Arm的AI世界】在Arm架構邊緣端裝置部署PyTorch模型
以Arm架構為基礎的處理器憑藉低功耗和高效率等優勢,在嵌入式系統中得到了廣泛應用。本文將為你展示如何在樹莓派或NVIDIA Jetson Nano 等Arm架構邊緣端裝置上部署PyTorch模型。
Arm推出SME2技術加速Android裝置AI功能升級
Arm推出可擴展矩陣延伸指令集2(Scalable Matrix Extension 2, SME2)技術,以直接在行動CPU上加速高強度的矩陣運算工作負載--這些工作負載對電腦視覺和生成式AI應用相當重要。
【Arm的AI世界】以Neoverse架構CPU解放RAG技術實力
本文將探討RAG的效能優勢,並分享在基於Arm Neoverse平台的Google Axion處理器上建構 RAG 應用的指導,以最佳化AI工作負載。
【開發資源】TinyML MCU 等級開源推論引擎
開源推論引擎在人工智慧應用中扮演著關鍵角色,提供了多樣化且高效能的解決方案,以應對從嵌入式系統到大型資料中心的廣泛需求,本文將介紹TinyML MCU 等級開源推論引擎的連結資源。
【Arm的AI世界】輕鬆運用虛擬平台與嵌入式評估套件加速終端AI應用開發
開發機器學習(ML)應用頗具挑戰,尤其是涉及專用硬體。好消息是,Corstone-320固定虛擬平台(FVP)簡化了這個過程,無需實體的硬體即可開發和測試ML應用。