文章類型
開發平台
解決方案
關注主題
文章類型
開發平台
解決方案
關注主題

【AI趨勢】邊緣運算的終極選擇 - MCU

作者:王胤頡

近幾年相信大家對「邊緣人」這個詞都不陌生,但你知道什麼是「邊緣運算」(Edge Computing)嗎?邊緣運算並不是被業界排擠的一種運算法喔!相反地,它還相當熱門。隨著AI的發展,硬體晶片的品質顯著提升,讓以往只能作為「接收」功能的端口也能用於協助運算,使AI運作更有效率;例如自動煞車系統、智慧音箱等,都是邊緣運算的實際應用。

本文特別邀請此領域的專家Neil Tan來跟大家分享其中的奧秘,Neil在知名處理器公司 – ARM擔任mbed工程師,近來發起uTensor專案,試圖將AI應用到網路邊緣的微控制器(MCU)上。他將從MCU談起,一一解析AI邊緣運算的原理與應用。

MCU,機器學習的另一種選擇

在進入邊緣運算之前,先來了解一下何謂MCU?

說到機器學習(Machine Learning)時,你會聯想到什麼呢?是電影中那種巨大且排滿主機的艙房嗎?但運用這種方式不僅須消耗大量電力,所排放的廢熱更是驚人,能使數個國家級的游泳池從冷水變成溫水!

傳統的機器學習需要數量龐大的主機

然而,其實機器學習(Machine Learning)有更節約能源的方式 — 也就是利用MCU。

MCU的優缺點比較(資料來源:Neil Tan)

MCU(Microcontrollers)具備其他硬體所沒有的優點,比如體積小、價格便宜、省電等,這些特性可為附加的系統降低成本。因此,未來若想讓AI應用在生活的各層面,MCU無疑是最佳選擇。

不過目前市面上的大量運算裝置,大多專注於CPU、GPU,或類似超級電腦的雲端(Cloud)。Neil也引用下圖指出,MCU在效能表現相對低落,因此目前要將MCU應用於AI運算,看來還有困難。

各類硬體運算效能比較(資料來源:Neil Tan)

為了使MCU能於生活的各個面向執行AI運算與應用,Neil在一年前找了幾位專家,結合各種MCU優缺點,一同提出解決方案,並開發出開源專案uTensor,也就是想發展一套基於mbed的精簡版TensorFlow框架,實現MCU邊緣運算的目標,目前已做出手寫辨識的Demo。

邊緣,現實與虛擬的交界

Neil首先定義Edge,他認為所謂的「邊緣」,其實是虛擬與現實世界的交界邊緣(Edge)。從物聯網(IoT)到MCU全都屬於數位的範圍,而數位接觸不到的地方,則是現實世界。目前在現實世界中,還有許多資訊無法被上傳到數位的虛擬世界,因此兩者之間的接縫,就是「邊緣」。

但問題來了:該如何將現實世界中數量龐大的資訊連接到物聯網呢?必須部署好幾萬個感測節點(sensor node)才能達成;但是,並不是每個人、每個環境都具備WiFi、4G/5G等通訊協定支援,那麼該如何做?

Neil認為,LPWAN的LoRa就是最佳選擇。如同下圖所示意的發訊塔,如果放在101大樓的頂端,那麼網絡的覆蓋率達到一、二十公里絕不是問題,雖然比特率(birate)不高,距離越長遞減越嚴重,但長距離覆蓋與功耗極低的特性,相當適合拿來進行IoT的傳輸。

LoRa的發訊特性(資料來源:Neil Tan)

那麼,另外還有那些適合邊緣運算的通訊協定呢?Neil認為需要從以下兩點來檢視:首先電力與頻寬是首要考量,再來是傳輸距離長短。因為邊緣運算的理想狀態,就是能依靠電池或太陽能供電;頻寬則選擇長距離、低功耗的LPWAN,在這樣的選擇下所畫出的扇形圖(如下圖),即為邊緣運算可運用的通訊區塊。

通訊協定之電力與頻寬比較(資料來源:Neil Tan)

問題是,此區塊中的傳輸效能不佳,像是音頻、視頻等類型的資料不可能上傳到雲端進行運算,因此該如何設計邊緣運算,還需要經過仔細的思考推敲。

透過編碼與解碼,執行邊緣運算

目前Neil設計的解決方案,是透過人工神經網路(Neural Network)將原有的資訊編碼(encode)、壓縮,縮小其容量,使其能於LPWAN環境下傳輸到雲端,再進行解碼(decode)。

因為若將編碼、解碼分散在MCU裝置與雲端上分別處理,MCU本身就不需要處理或傳輸過於龐大的資料;另一個好處是,解碼的雲端透過遷移學習(Transfer Learning)替換較為容易,透過同樣的裝置,便能在雲端變換出不同的應用。

遷移學習的運作示意圖(資料來源:Neil Tan)

小結

回顧Neil的分享,我們可以發現,即使科技發展不斷追求效能與硬體的表現,但未來最需要的關鍵字仍然是「永續」;即使超級電腦的運算能力再傑出,若不能有效地普及於日常生活之中,其發展性依然會受到侷限。

反觀MCU與邊緣運算,雖然於現階段都還存在發展的限制,但Neil依然持續不斷嘗試、實驗、修正,就是因為他相信在此領域中存在著未來性。從他的言談中,我們能夠感受到「只要願意努力,一切困難都不難。」而這種精神,正是值得Maker學習的良好榜樣。

(責任編輯:賴芳如)

王胤頡

王胤頡

就讀政大歷史,喜歡故事與文字,為了豐富人生經驗與故事靈感,正在社會臥底。
王胤頡

上一篇: | 下一篇:

468 ad

我想回應

你的電子郵件位址並不會被公開。 必要欄位標記為 *

這個網站採用 Akismet 服務減少垃圾留言。進一步瞭解 Akismet 如何處理網站訪客的留言資料

成城共創股份有限公司版權所有、轉載必究.Copyright(c) 2017 MakerPRO