【Arm的AI世界】以ExecuTorch和KleidiAI執行LLM推論 充分釋放行動端AI潛力!
受惠於Arm和Meta工程團隊的協作,AI開發人員可在具有i8mm ISA擴展的基於Armv9架構之Arm Cortex-A CPU上部署Llama量化模型,運作速度最高可提升20%;本文將分享更多細節,包括…
英飛凌PSOC Edge系列MCU開始支援NVIDIA TAO模型
在邊緣裝置上開發最新的AI模型,並在MCU上部署模型的工作流程,對開發者來說是一項極大的挑戰。為此英飛凌科技(Infineon)宣佈旗下PSOC Edge MCU系列開始支援NVIDIA TAO模型…
打造健全Edge AI生態系 Arm扮演開發者堅實後盾
不久前,Arm正式發表首個為IoT裝置打造的Armv9架構平台,這是否意味著Edge AI市場終於將進一步擴大版圖,讓全球數量超過百億的IoT裝置都能更容易冠上一個「A」字母,實現真正的AI無所不在?
ROHM新推AI微控制器 強調能「現學現推論」
日本半導體製造商ROHM新推出AI微控制器,可利用在馬達等工業設備,以及其他各種設備的感測資料進行故障檢測和劣化預測,號稱業界首創、無需網路即可進行元件上的學習和推論。
【Arm的AI世界】三步驟輕鬆在Ethos-U85上使用PyTorch與ExecuTorch
Arm透過在Ethos-U85上支援ExecuTorch測試版,為開發人員建構物聯網邊緣端應用提供了更多支援。開發人員可以借助ExecuTorch,高效率地部署原生開發的PyTorch模型,基於Arm平台建構出智慧且回應迅速的IoT解決方案。
Arm首推為IoT最佳化的Armv9架構邊緣AI平台
聚焦邊緣AI應用,Arm正式發佈其首個專為物聯網(IoT)裝置所開發的Armv9架構平台,以全新的Arm Cortex-A320 CPU和領先的邊緣AI加速器Arm Ethos-U85 NPU為核心,可支援運作超過10億個參數的邊緣端AI模型。