【2024 MAI Talks】以MPU實現Edge AI應用

Posted By MakerPRO編輯部 on 7 月 1, 2024 in 2024 MAI Talks, Edge AI, Edge AI解決方案, Edge AI開發地圖, Edge AI開發環境, 智慧城市, 智慧工廠, 活動報導, 課程導讀 | 0 comments

2024 MAI 開發者大會以「Make AI a Reality」為精神，希望架起AI技術與應用的橋樑，廣邀開發社群先進擔任講者，2天共20場演講，為AI開發者及AI Maker們領路。探討主題涵蓋先進及實用 AI 工具、框架、平台技術；Edge AI開發環境、推論優化與佈建；熱門關鍵技術：Local LLM、RAG、NPU、GenAI…；創新與落地Edge AI應用。

Edge AI在各行各業的重要性日益顯著，這種在網絡邊緣硬體設備上執行本地AI演算法的解決方案，其優勢包括更低的延遲、減少網路頻寬需求和加強的隱私保護，特別適合需要即時處理和決策的應用場景。

在2024年MAI開發者大會上，恩智浦半導體(NXP)應用工程師林孟汝於主題為「以MPU實現Edge AI應用」的專題演說中，介紹了在微處理器(MPU)在Edge AI應用中發揮的關鍵作用，也分享了多個創新應用案例，以及NXP專為Edge AI應用打造、內建NPU以加速機器學習任務的i.MX系列MPU，包括i.MX 8M Plus與i.MX 9之技術細節。

林孟汝指出，MPU可支援的Edge AI應用場景涵蓋多個領域，像是生產線瑕疵檢測、檢查工人是否正確佩戴安全裝備的工業物聯網(IIoT)應用，智慧城市的應用則包括可監測行人過馬路的狀況與交通流量管理，還有在車輛中支援駕駛員疲勞偵測，透過監視駕駛員行為確保行車安全，以及應用在門禁管制的臉部辨識、識別嬰兒哭聲與關鍵詞喚醒系統的各種聽覺應用。

目前NXP支援Edge AI應用的i.MX系列MPU，有配備4顆Cortex-A53核心、內建機器學習加速器、支援2.3 TOPS算力的i.MX 8M Plus，以及配備2個Cortex-A55核心、Arm Ethos-U65 NPU的i.MX 93系列。NXP並提供eIO工具套件，支援模型訓練與最佳化並部署於邊緣設備實現終端應用。該工具套件還包括多種數據增強、模型選擇(如物體檢測，以及影像分類、分割)和性能評估工具。

林孟汝也展示了幾個利用NXP的MPU實現的Edge AI的應用案例，包括利用紅外線攝影機監控駕駛員行為的駕駛監控系統(DMS)，能偵測到駕駛員打瞌睡、注意力不集中等危險駕駛行為；還有利用i.MX 8M Plus與攝影機之結合，在生產線上即時進行蘋果分揀的工業應用，該系統利用TSN確保最低的網絡延遲，並且能同步機械手臂的動作。

透過在i.MX系列MPU產品中整合NPU，以及提供充足的技術資源，NXP致力推動Edge AI創新，讓先進的機器學習變得普及且實用，能支援多種應用場景。