【看見未來】「5G自主邊緣」的技術融合新境界

作者:陸向陽

5G自主邊緣(5G Autonomous Edge)聽來既熟悉又陌生?是指5G通訊?還是指邊緣運算(Edge Computing)?自主一詞在近年來的資訊產業中也愈來愈常用,且通常與人工智慧(AI)有關,但三個字搭在一起又是指什麼呢?

簡單說,5G自主邊緣是在整體5G通訊系統中的邊緣環節(鄰近於5G基地台)加入智慧機能,從而加速三大領域(雲端Cloud、AI、5G)技術的融合與演進,透過融合與演進支援與實現新應用。

圖1 5G自主邊緣能加速融合三大領域技術以實現新應用。(圖片來源:Intel 5G Autonomous Edge 白皮書

5G自主邊緣可以實現的新應用仍在發展摸索,但已能推測想像數種情境,例如智慧工廠內有許多無人搬運車,過去只能依據事先設定的路線與順序移動,但在加入智慧機能後,搬運車可因應訂單(如急單、砍單)變更而快速彈性調整,或有人員進出、或意外發生時,能自行避礙並重新計算運行路線。

或是零售業,消費者在瀏覽購物網站,每一瀏覽足跡都被記錄分析,但那依然不足,如果還能加入消費者在實體賣場時,於各賣架的停留時間與動線資訊,運用虛實整合讓偏好分析更精準,而視訊畫面如何辨識身份與軌跡,一樣需要人工智慧。

或是賽事娛樂,5G傳輸率的大增讓觀眾更身歷其境,透過3D影像與音效、VR虛擬實境等,相關智慧分析也能快速讓相同愛好的球迷在社群平台上互動、共同激勵或分享喜悅。若能實現上述應用,便能帶動產業與商務再次變革。

圖2 5G自主邊緣的範疇位於行動裝置/物聯網、落地/邊緣雲端資料中心,以及遠邊緣(Far Edge)間,並肩負深度學習/機器學習推論運算的工作、實現低延遲傳輸(傳輸反應能低於5毫秒)。(圖片來源:Intel 5G Autonomous Edge 白皮書

以下說明5G自主邊緣與5G、AI及Cloud三大技術之間的重要關係。

(1) 5G自主邊緣與5G

5G通訊相較於過往的3G、4G,除了傳輸率更高外,也更重視傳輸的反應速度,即所謂的傳輸延遲(latency),5G的超可靠低延遲通訊(URLLC)特性即可實現這個目標。

對於一些執行關鍵性任務的系統來說,例如自動化工廠的產線運作,或車聯網的車對車(V2V)、車對周邊設施(V2I)通訊,都會要求網路環境能提供電信等級的可靠性,也就是99.999%以上的網路封包可在1毫秒(1ms)內傳送完。這在過去要靠有線網路才能達成,現在基於5G的URLLC,行動網路有機會提供這樣的QoS服務。

事實上,5G網路的三大特色都為5G自主邊緣帶來了很大的發展潛力,讓一些前瞻的應用能夠實現,例如產線機器人可以移動工作,完全替代人力;或是自主性的無人機送貨,這些應用都仰賴低延遲的傳輸和分散式的運算,才能做到去中心化的分析、協同工作與控制。

放眼未來,5G技術還會將URLLC提升到1ms以下的更低延遲速度,進而可實現產線中對工安事件的AI預警及處置,或是用於遠端機器手臂外科手術的沈浸式視訊控制。

圖3 5G自主邊緣可加速傳輸反應,同時也加速AI研判運算。(圖片來源:Intel 5G Autonomous Edge 白皮書

(2) 5G自主邊緣與AI

5G自主邊緣可在基地台及基地台覆蓋區內加速AI推論執行,事實上有多項技術也支持此一發展,一是半導體技術不斷精進使晶片運算力愈來愈強;二是x86架構處理器因技術提升與量價均攤效應,不僅有最好的價格效能比(C/P Ratio)且高度普及易取得;三是AI程式相關工具的開放與標準化,如TensorFlow、Caffe(Convolutional Architecture for Fast Feature Embedding)等的出現,使程式師可快速開發、訓練出新的AI程式。

(3) 5G自主邊緣與Cloud

與過往3G、4G相比5G更倚賴雲端技術,更具體而言是倚賴軟體定義網路(SDN)技術及虛擬化技術,過去3G、4G的核網系統為專屬設備,而5G核網系統將更多是以標準x86系統為基礎,並搭配上特定軟體來構成,如此可更靈活改變組態配置,因應不同的通訊情境。

進一步的,虛擬化技術的輕量化發展促成了容器(container)技術以及微服務(microservice)架構,不僅系統設備軟體化、虛擬化,甚至用戶端設備、物聯網端點設備也開始軟體化、虛擬化發展,可謂是一切都以雲端主機的型態實現(Everything is becoming a cloud host)。

雲端機房另一工作是AI模型的訓練(train)、驗證(verify)與推論,但一切都在雲端運作則難以縮短反應時間,此時可將推論工作轉移到「5G自主邊緣端」執行,替雲端分擔工作負荷(workload),而訓練與驗證依然在雲端,原因是訓練與驗證工作需要完整的資料,位於邊緣的資料只屬於該地現場的局部資料,分析與訓練工作需要集中彙整資料到雲端。

三大技術領域的延伸激盪

5G自主邊緣同於融合與強化三大領域技術,但任兩大技術的結合運用也同樣有助於產業、商務變革發展。

例如5G與AI的結合,在5G廣大覆蓋範圍內的各項運作都具有AI的自主智慧性,此可稱為自主基礎建設(Autonomous Infrastructure,或稱基礎設施);而5G與Cloud技術的結合,除了在核心系統使用雲端技術外,也將雲端技術向前推至基地台端,即前述的邊緣運算,整體稱為邊緣雲端運算(Edge Cloud Computing)。

至於AI與Cloud的結合運作則可實現無所不在的智慧(Ubiquitous Intelligence),並讓AI能以服務方式彈性使用,稱為人工智慧即服務(AI as a Services, AIaaS),亦即使用AI不再需要自購與自建,只要依據使用量、使用時間支付使用費即可,

5G自主邊緣的具體實現

由上述可知「5G自主邊緣」處於產業與商務創新的樞紐位置,但如何讓5G基地台具備智慧,從而分擔雲端工作與加速運作反應,牽涉到具體實現技術的選擇。

特別是AI的推論技術目前可謂百家爭鳴,但許多僅為局部方案,例如只能使用限定的AI框架、硬體加速晶片的類型選擇少、晶片只針對少數的資料格式(如8位元整數)起加速作用,或缺乏微調與最佳化(或稱優化)工具等。

針對此,Intel提出OpenVINO(Open Visual Inference and Neural network Optimization)工具套件方案,OpenVINO顧名思義是開放的,並支援多種硬體加速晶片,包含CPU、GPU(或稱GPGPU)、VPU(或稱ASIC)以及FPGA;而不同的晶片也提供不同的資料格式加速能力,包含浮點32位元(FP32)、浮點16位元(FP16)、腦浮點16位元(BF16)、整數8位元(INT8)等。

OpenVINO也支援多種AI框架,除了前述的TensorFlow(Google力主)、Caffe(業界廣泛使用)外,也包含MXNet(Amazon力主)、ONNX(Microsoft力主)、PyTorch(Facebook力主)、Keras等。

圖4 OpenVINO廣泛支援不同類型AI軟體框架、AI硬體晶片。(圖片來源:Overview of Intel® Distribution of OpenVINO™ Toolkit

更重要的是,OpenVINO能對AI模型進行修改(modify)、微調(tune),因應不同的硬體系統及環境進行最佳化,以及以不同的取向需求執行AI推論工作,如更精準推論、更快速推論,或以節能方式執行推論,充分發揮AI軟硬體的價值。

圖5 OpenVINO工具套件的工作流程。(圖片來源:Overview of Intel® Distribution of OpenVINO™ Toolkit

5G自主邊緣之智慧工廠 - AMR

以目前的落地化程度來看,工廠智慧化對5G x Edge AI的應用需求最為明確,希望透過5G來提升廠區中高速網路的覆蓋率,達成產線機器手臂、AMR(Autonomous Mobile Robot,自主移動機器人)及各種設備間的低延遲傳輸及廣泛連結,並加速這些設備的AI推論執行,以加大工廠產能、強化產線穩定性,並保障員工的工作安全。

根據 ABI Research研究指出,工廠裏的物流機器人、倉儲機器人等各類型機器人數量爆炸型成長,且到了 2024 年,全球的機器人中,有 55% 的機器人都採用ROS(Robot Operating System,機器人作業系統)。而各類機器人中,又以AMR(Autonomous Mobile Robot,自主移動機器人)的發展特別受到關注。

AMR機器人的「自主性」,與本文探討的「5G自主邊緣」可以說有直接的關聯性。AMR強調能自行找出到達目的地的最有效途徑、輕易繞開障礙物、自動跨層運輸,高效安全地執行任務,都需要5G及OpenVINO這些技術來加持,才更容易實現。

不久後工廠內的情境將是,機台、產線、機器人等設備都運用 5G 網路低延遲、高效率的特性,透過數據分發服務(DDS)進行自主運作、平行溝通,進而實現「群機智主(Swarm Autonomy)」的目標,讓一群自主移動的機器人在最小的人為操作及監督下,就能完成特定的工作任務,而且即使在高速移動的狀況下遇到障礙物也能及時反應。

圖6 AMR要實現群機智主(Swarm Autonomy),需5G自主邊緣技術來加持(圖片來源:From Zero to Hero: Start Your AMR Projects with ADLINK Today

結語

毫無疑問的,不久的將來5G會達到高度覆蓋,且連線的不再是人,也包含一般生活器物與社會機能的重要運作設施,然而更廣泛的連線、更高傳輸率的連線,只能為產業、商務帶來程度性的競爭力提升,而若想顛覆規則、引領變革,則需要更即時、更智慧的技術,5G自主邊緣便是為此而倡議,OpenVINO則支撐與呼應此倡議。

(本文首發於新電子,並經同意授權轉載,原文連結;責任編輯:謝涵如)

陸向陽

Author: 陸向陽

從電子科系畢業後,即以媒體人的角色繼續這段與「電子科技」的不解之緣。歷任電子技術專書作者、電子媒體記者、分析師等角色,並持續寫作不殆。近來投入Arduino、Raspberry Pi等開放硬體的研究與教程介紹。

Share This Post On

發表

跳至工具列