【Arm的AI世界】在Arm架構邊緣端裝置部署PyTorch模型
以Arm架構為基礎的處理器憑藉低功耗和高效率等優勢,在嵌入式系統中得到了廣泛應用。本文將為你展示如何在樹莓派或NVIDIA Jetson Nano 等Arm架構邊緣端裝置上部署PyTorch模型。
嵌入式AI/ML開發框架比一比:Arduino IDE、MicroPython、TFLite、ESP-IDF
本文將介紹4個針對嵌入式AI/ML的開發工具:Arduino IDE、MicroPython、TensorFlow Lite for Microcontrollers(TFLite Micro)、ESP-IDF。
平民化的AI機器人開源平台:LeRobot是什麼?
LeRobot 的誕生,讓機器人AI不再是少數大企業的專利,而是開放給所有熱愛創新的人。它的開箱即用預訓練模型、多模態學習技術、開放資料生態與端到端任務設計,大幅降低了開發門檻,成為學術研究、產業應用和個人創客的強大助力。
【開發資源】TinyML MCU 等級開源推論引擎
開源推論引擎在人工智慧應用中扮演著關鍵角色,提供了多樣化且高效能的解決方案,以應對從嵌入式系統到大型資料中心的廣泛需求,本文將介紹TinyML MCU 等級開源推論引擎的連結資源。
認識IPEX-LLM:LLM模型最佳化的PyTorch工具
IPEX-LLM是英特爾為其 XPU(Xeon/Core/Flex/Arc/PVC)提出的低位元 LLM 開源(Apache 2.0授權)函式庫,是專為 PyTorch 生態打造的LLM執行擴充套件,具有廣泛的模型支援、低延遲和記憶體佔用小等優勢。