繼U55與U65之後，Arm的嵌入式AI加速器Ethos-U系列NPU再添新成員U85；與上一代產品相比，Ethos-U85的效能號稱提升四倍，並提高了20%功耗效率，其MAC則從128個擴展到2,048個(在1GHz時脈達4TOPs效能)，可支援工廠自動化、商用監視器或智慧家庭攝影機等需要更高效能的應用。
採用Ethos-U85進行開發的合作夥伴，可使用一致的Arm架構工具鏈快速上手，而U85也支援 TensorFlow Lite和PyTorch等AI框架。而除了為卷積神經網路(CNN)提供權重乘矩陣(weights times matrix)，Ethos-U85亦能提供對Transformer網路來說不可或缺的矩陣乘矩陣乘法(matrix times matrix multiplication)。
Arm物聯網事業部亞太區IoT市場資深經理黃晏祥表示，Ethos-U85對Transformer網路支援意味著能推動新的應用，特別是視覺和生成式AI的使用場景，在理解影片、填補影像缺失部分，或在分析多個攝影鏡頭的數據以進行影像分類和物體檢測等任務上非常有價值。
Arm Ethos-U系列NPU能讓開發者充分發揮神經網路的潛力。(圖片來源：Arm)
不僅能改善低功耗MCU系統的AI工作負載，在高效能嵌入式系統中，也能與Arm v9 Cortex-A系列CPU搭配，加速以MPU為基礎的物聯網機器學習任務，將低功耗邊緣推論導入諸如工業機器視覺、穿戴裝置和消費型機器人等產品。
Arm的Ethos NPU系列目前已有超過20家授權合作夥伴，包括英飛凌(Infineon)、NXP、奇景光電(Himax)、新唐(Nuvoton)、Alif Semiconductor和Synaptics等晶片業者；Ethos-U85的早期採用者則包括Alif和Infineon。
物聯網參考設計平台
在發表Ethos-U85同時，Arm也宣佈推出全新物聯網參考設計平台Corstone-320與整體性的物聯網設計方法，能協助合作夥伴降低打造晶片的成本和開發時間。
黃晏祥指出，該參考設計包含最高效能的Cortex-M85處理器，也能與全新Ethos-U85結合，而由於許多類似的MCU系統仰賴視覺和影像感測，也包括針對視覺應用的低功耗Mali-C55影像訊號處理器(ISP)。
Corstone-320以貼近實際工作負載為考量開發，可部署在智慧家庭中以電池供電的攝影系統，例如智慧門鈴，以及在工業和零售系統中低影格率、電源供給受限的連網攝影鏡頭。Corstone-320附帶軟體、機器學習模型及工具，以促成軟體重複使用並能充分運用 Arm 生態系。
Arm並提供完整系統的虛擬硬體模型，以及個別CPU和NPU模型，以簡化開發過程，並加速產品設計；開發人員能夠多點並行開發，讓合作夥伴可將他們的時間和精力專注於創新與差異化。
Arm提供包括軟硬體在內的全面性IoT設計資源。(圖片提供：Arm)
擁有包括超過1,500 萬名、來自全球的Arm架構開發人員生態系，無論是來自業界、學研界，都能從Arm合作夥伴的廣泛知識庫、基於 Arm 建立的不斷成長的軟體和工具生態系，以及開源軟體庫和人工智慧框架中受益。
而 Arm的合作夥伴也正在探索如何在效能的增加、低功耗設計，增加創新的力道，以及在日益複雜的軟體環境中整合機器學習等各方需求之間尋求平衡。Arm還將在4月30日舉辦一場聚焦Edge AI的研討會，邀請業界夥伴分享最新解決方案，詳情請點此連結。
MakerPRO將於5月16與17兩天舉辦首場年度Edge AI開發者大會，也將邀請Arm與社群朋友共同探討相關技術的未來發展，以及生態系中的各部門如何相互合作激勵創新應用的開發，敬請期待！
- 想加速RAG開發？你需認識LLamaIndex框架 - 2024/11/21
- AI+無人機守護海域遊憩安全 台南市發表「智慧海灘」成果 - 2024/11/14
- 【多模態時代】LLaVA模型的重要性 - 2024/11/11
.jpg)
.jpg)