考量開發者「經驗值」的Edge AI部署支援

Posted By judith on 10 月 5, 2023 in Edge AI, TinyML, 專訪, 無線, 產業趨勢, 開發套件, 開發工具 | 0 comments

人工智慧(AI)與機器學習(ML)已經從雲端「下凡」，進入位處網路邊緣的眾多物聯網(IoT)裝置，為涵蓋消費性、醫療、工/商業領域的各種應用帶來兼具智慧與安全的功能；而且目前市面上不少相關解決方案，除了號稱能讓開發者容易上手部署，也特別強調自家技術在運算與電力資源有限應用中的性能表現。

在這些解決方案中，Silicon Labs於2022年1月發表，首度內建專屬AI/ML加速器的超低功耗EFR32系列兩款無線SoC新元件(32位元MCU) BG24和MG24也在其中；這兩款產品以及其他類似解決方案的細節，在這篇文章有更多描述，我們也將繼續為開發者們收集更多資訊。而在Silicon Labs的2023年度Work With開發者大會前夕，該公司亞太及日本地區業務副總裁王祿銘，特別分享了他對目前市場上Edge AI應用趨勢與需求現況觀察。

王祿銘表示，基本上只要Silicon Labs的EFR32系列無線SoC的使用者，都能輕鬆將ML功能添加到現有的應用中，帶來額外的價值；他以一個客戶的實際部署為例，「他們在位於深圳的四層樓辦公室中，以自家開發的演算法結合MG24來進行人流偵測與保全監控的功能，當發現會議室、實驗室等空間無人使用時，會自動關閉燈光等不需要的電源甚至將門禁上鎖，如此一個月能節省約20%的電力。」

部署ML功能於Silicon Labs無線SoC的流程。(圖片來源：Silicon Labs)

Silicon Labs特別強調自家能針對開發者的不同技術、經驗等級，提供多樣ML開發工具選擇的特色，並將Edge AI應用開發者分為三個類別：ML Solutions、ML Explorer與ML Experts。王祿銘指出，如果是像前面那位深圳的客戶，擁有自己訓練模型與開發演算法的能力，屬於ML Experts專家等級，就可直接使用具備TensorFlow Lite原生支援的BG24或MG24自行部署終端應用；該公司也可提供支援Python的工具套件以及在GitHub分享的程式範例。

若是只對AI/ML概念有初步了解，但擁有豐富嵌入式系統軟硬體開發經驗的ML Explorer，Silicon Labs除了有自家的工具套件，也與AI/ML 開發工具鏈供應商包括SensiML、Edge Impulse合作，提供針對嵌入式系統最佳化的機器學習模型和解決方案來簡化開發過程。王祿銘補充，這些第三方夥伴提供圖形化介面(GUI)的端對端開發環境與演算法軟體套件，能根據開發者的不同應用提供相關支援。

而要是完全沒有AI/ML經驗，或是需求立即可用解決方案的ML Solutions類型開發者，就得尋找完整解決方案供應商、系統整合業者或設計服務業者的支援；王祿銘指出，在Silicon Labs的生態系統中也有許多這類合作夥伴資源，但當然，這種方式所花費的開發時間與成本可能會高出許多。

Silicon Labs亞太及日本地區業務副總裁王祿銘。(照片提供：Silcion Labs)

不過王祿銘認為，除了有完善解決方案與開發工具的支援，是否能成功部署一個Edge AI應用部署，資料的收集、模型訓練以及維護都是非常重要的步驟。例如是否選擇了恰當的前端感測器以收集高品質的現場數據──他先前提到的深圳辦公室人流監測應用，就用到了小型的雷達來採集資料樣本，以實現更精準的判斷；此外管理者是否願意投資成本，將所收集的數據再進行重新訓練與利用，也是Edge AI應用是否能持續進步的關鍵。