作者：王胤頡
近幾年相信大家對「邊緣人」這個詞都不陌生，但你知道什麼是「邊緣運算」（Edge Computing）嗎？邊緣運算並不是被業界排擠的一種運算法喔！相反地，它還相當熱門。隨著AI的發展，硬體晶片的品質顯著提升，讓以往只能作為「接收」功能的端口也能用於協助運算，使AI運作更有效率；例如自動煞車系統、智慧音箱等，都是邊緣運算的實際應用。
本文特別邀請此領域的專家Neil Tan來跟大家分享其中的奧秘，Neil在知名處理器公司 – ARM擔任mbed工程師，近來發起uTensor專案，試圖將AI應用到網路邊緣的微控制器（MCU）上。他將從MCU談起，一一解析AI邊緣運算的原理與應用。
MCU，機器學習的另一種選擇
在進入邊緣運算之前，先來了解一下何謂MCU？
說到機器學習（Machine Learning）時，你會聯想到什麼呢？是電影中那種巨大且排滿主機的艙房嗎？但運用這種方式不僅須消耗大量電力，所排放的廢熱更是驚人，能使數個國家級的游泳池從冷水變成溫水！
傳統的機器學習需要數量龐大的主機
然而，其實機器學習（Machine Learning）有更節約能源的方式 — 也就是利用MCU。
MCU的優缺點比較（資料來源：Neil Tan）
MCU（Microcontrollers）具備其他硬體所沒有的優點，比如體積小、價格便宜、省電等，這些特性可為附加的系統降低成本。因此，未來若想讓AI應用在生活的各層面，MCU無疑是最佳選擇。
不過目前市面上的大量運算裝置，大多專注於CPU、GPU，或類似超級電腦的雲端（Cloud）。Neil也引用下圖指出，MCU在效能表現相對低落，因此目前要將MCU應用於AI運算，看來還有困難。
各類硬體運算效能比較（資料來源：Neil Tan）
為了使MCU能於生活的各個面向執行AI運算與應用，Neil在一年前找了幾位專家，結合各種MCU優缺點，一同提出解決方案，並開發出開源專案uTensor，也就是想發展一套基於mbed的精簡版TensorFlow框架，實現MCU邊緣運算的目標，目前已做出手寫辨識的Demo。
邊緣，現實與虛擬的交界
Neil首先定義Edge，他認為所謂的「邊緣」，其實是虛擬與現實世界的交界邊緣（Edge）。從物聯網（IoT）到MCU全都屬於數位的範圍，而數位接觸不到的地方，則是現實世界。目前在現實世界中，還有許多資訊無法被上傳到數位的虛擬世界，因此兩者之間的接縫，就是「邊緣」。
但問題來了：該如何將現實世界中數量龐大的資訊連接到物聯網呢？必須部署好幾萬個感測節點（sensor node）才能達成；但是，並不是每個人、每個環境都具備WiFi、4G/5G等通訊協定支援，那麼該如何做？
Neil認為，LPWAN的LoRa就是最佳選擇。如同下圖所示意的發訊塔，如果放在101大樓的頂端，那麼網絡的覆蓋率達到一、二十公里絕不是問題，雖然比特率（birate）不高，距離越長遞減越嚴重，但長距離覆蓋與功耗極低的特性，相當適合拿來進行IoT的傳輸。
LoRa的發訊特性（資料來源：Neil Tan）
那麼，另外還有那些適合邊緣運算的通訊協定呢？Neil認為需要從以下兩點來檢視：首先電力與頻寬是首要考量，再來是傳輸距離長短。因為邊緣運算的理想狀態，就是能依靠電池或太陽能供電；頻寬則選擇長距離、低功耗的LPWAN，在這樣的選擇下所畫出的扇形圖（如下圖），即為邊緣運算可運用的通訊區塊。
通訊協定之電力與頻寬比較（資料來源：Neil Tan）
問題是，此區塊中的傳輸效能不佳，像是音頻、視頻等類型的資料不可能上傳到雲端進行運算，因此該如何設計邊緣運算，還需要經過仔細的思考推敲。
透過編碼與解碼，執行邊緣運算
目前Neil設計的解決方案，是透過人工神經網路（Neural Network）將原有的資訊編碼（encode）、壓縮，縮小其容量，使其能於LPWAN環境下傳輸到雲端，再進行解碼（decode）。
因為若將編碼、解碼分散在MCU裝置與雲端上分別處理，MCU本身就不需要處理或傳輸過於龐大的資料；另一個好處是，解碼的雲端透過遷移學習（Transfer Learning）替換較為容易，透過同樣的裝置，便能在雲端變換出不同的應用。
遷移學習的運作示意圖（資料來源：Neil Tan）
小結
回顧Neil的分享，我們可以發現，即使科技發展不斷追求效能與硬體的表現，但未來最需要的關鍵字仍然是「永續」；即使超級電腦的運算能力再傑出，若不能有效地普及於日常生活之中，其發展性依然會受到侷限。
反觀MCU與邊緣運算，雖然於現階段都還存在發展的限制，但Neil依然持續不斷嘗試、實驗、修正，就是因為他相信在此領域中存在著未來性。從他的言談中，我們能夠感受到「只要願意努力，一切困難都不難。」而這種精神，正是值得Maker學習的良好榜樣。
（責任編輯：賴芳如）
