Arm的AI世界 Archives

2 月13

【Arm的AI世界】運用小語言模型在邊緣端實現生成式AI

儘管大語言模型(LLM)更廣為人知，但由於小語言模型(SLM)能夠以更少資源、較低成本提供出色的效能，而且訓練起來也更為簡易且成本更低，因此受到越來越多的關注；Arm展示了搭載Ethos-U85 NPU的系統晶片解決方案如何在嵌入式硬體上運作小語言模型。

1 月08

Arm是如何為開發人員與物聯網軟體生態系提供智慧、節能的機器學習邊緣裝置？物聯網市場正在穩定成長，全新的AI技術創新更是讓人眼界大開。Arm的物聯網事業部致力於把AI創新擴展到那些通常是由微控制器驅動、小型且條件受限的機器學習邊緣裝置。

12 月05

本文將透過在配備Ethos-U55 NPU的現代微控制器上執行兩個TinyML應用，來展示NPU的效能優勢。我們將分別在採用和不採用Ethos-U55 NPU的微控制器上運作應用中所使用的 ML模型，以此對推論延遲進行基準測試。

11 月04

實現智慧邊緣運算所面臨的挑戰之一，是促成硬體異質性；本文將探討異質性出現的方式、對系統的影響，以及如何解決其既有的挑戰。

10 月03

對於各類需要理解攝影鏡頭和視訊資料的AI應用來說，電腦視覺(CV) 都在其中扮演關鍵角色。Arm KleidiCV 是一個針對Arm CPU最佳化的效能關鍵型常式的開源軟體程式庫，專為與各種電腦視覺框架整合而設計…

9 月04

這篇文章將概述Python在Arm平台上－－主要是在Linux與Windows作業系統上－－的應用。Python程式語言通用性極高、相當受歡迎，可用在不同的環境中…