作者：陸向陽
5G自主邊緣（5G Autonomous Edge）聽來既熟悉又陌生？是指5G通訊？還是指邊緣運算（Edge Computing）？自主一詞在近年來的資訊產業中也愈來愈常用，且通常與人工智慧（AI）有關，但三個字搭在一起又是指什麼呢？
簡單說，5G自主邊緣是在整體5G通訊系統中的邊緣環節（鄰近於5G基地台）加入智慧機能，從而加速三大領域（雲端Cloud、AI、5G）技術的融合與演進，透過融合與演進支援與實現新應用。
圖1 5G自主邊緣能加速融合三大領域技術以實現新應用。（圖片來源：Intel 5G Autonomous Edge 白皮書）
5G自主邊緣可以實現的新應用仍在發展摸索，但已能推測想像數種情境，例如智慧工廠內有許多無人搬運車，過去只能依據事先設定的路線與順序移動，但在加入智慧機能後，搬運車可因應訂單（如急單、砍單）變更而快速彈性調整，或有人員進出、或意外發生時，能自行避礙並重新計算運行路線。
或是零售業，消費者在瀏覽購物網站，每一瀏覽足跡都被記錄分析，但那依然不足，如果還能加入消費者在實體賣場時，於各賣架的停留時間與動線資訊，運用虛實整合讓偏好分析更精準，而視訊畫面如何辨識身份與軌跡，一樣需要人工智慧。
或是賽事娛樂，5G傳輸率的大增讓觀眾更身歷其境，透過3D影像與音效、VR虛擬實境等，相關智慧分析也能快速讓相同愛好的球迷在社群平台上互動、共同激勵或分享喜悅。若能實現上述應用，便能帶動產業與商務再次變革。
圖2 5G自主邊緣的範疇位於行動裝置/物聯網、落地/邊緣雲端資料中心，以及遠邊緣（Far Edge）間，並肩負深度學習/機器學習推論運算的工作、實現低延遲傳輸（傳輸反應能低於5毫秒）。（圖片來源：Intel 5G Autonomous Edge 白皮書）
以下說明5G自主邊緣與5G、AI及Cloud三大技術之間的重要關係。
(1) 5G自主邊緣與5G
5G通訊相較於過往的3G、4G，除了傳輸率更高外，也更重視傳輸的反應速度，即所謂的傳輸延遲（latency），5G的超可靠低延遲通訊（URLLC）特性即可實現這個目標。
對於一些執行關鍵性任務的系統來說，例如自動化工廠的產線運作，或車聯網的車對車（V2V）、車對周邊設施（V2I）通訊，都會要求網路環境能提供電信等級的可靠性，也就是99.999%以上的網路封包可在1毫秒（1ms）內傳送完。這在過去要靠有線網路才能達成，現在基於5G的URLLC，行動網路有機會提供這樣的QoS服務。
事實上，5G網路的三大特色都為5G自主邊緣帶來了很大的發展潛力，讓一些前瞻的應用能夠實現，例如產線機器人可以移動工作，完全替代人力；或是自主性的無人機送貨，這些應用都仰賴低延遲的傳輸和分散式的運算，才能做到去中心化的分析、協同工作與控制。
放眼未來，5G技術還會將URLLC提升到1ms以下的更低延遲速度，進而可實現產線中對工安事件的AI預警及處置，或是用於遠端機器手臂外科手術的沈浸式視訊控制。
圖3 5G自主邊緣可加速傳輸反應，同時也加速AI研判運算。（圖片來源：Intel 5G Autonomous Edge 白皮書）
(2) 5G自主邊緣與AI
5G自主邊緣可在基地台及基地台覆蓋區內加速AI推論執行，事實上有多項技術也支持此一發展，一是半導體技術不斷精進使晶片運算力愈來愈強；二是x86架構處理器因技術提升與量價均攤效應，不僅有最好的價格效能比（C/P Ratio）且高度普及易取得；三是AI程式相關工具的開放與標準化，如TensorFlow、Caffe（Convolutional Architecture for Fast Feature Embedding）等的出現，使程式師可快速開發、訓練出新的AI程式。
(3) 5G自主邊緣與Cloud
與過往3G、4G相比5G更倚賴雲端技術，更具體而言是倚賴軟體定義網路（SDN）技術及虛擬化技術，過去3G、4G的核網系統為專屬設備，而5G核網系統將更多是以標準x86系統為基礎，並搭配上特定軟體來構成，如此可更靈活改變組態配置，因應不同的通訊情境。
進一步的，虛擬化技術的輕量化發展促成了容器（container）技術以及微服務（microservice）架構，不僅系統設備軟體化、虛擬化，甚至用戶端設備、物聯網端點設備也開始軟體化、虛擬化發展，可謂是一切都以雲端主機的型態實現（Everything is becoming a cloud host）。
雲端機房另一工作是AI模型的訓練（train）、驗證（verify）與推論，但一切都在雲端運作則難以縮短反應時間，此時可將推論工作轉移到「5G自主邊緣端」執行，替雲端分擔工作負荷（workload），而訓練與驗證依然在雲端，原因是訓練與驗證工作需要完整的資料，位於邊緣的資料只屬於該地現場的局部資料，分析與訓練工作需要集中彙整資料到雲端。
三大技術領域的延伸激盪
5G自主邊緣同於融合與強化三大領域技術，但任兩大技術的結合運用也同樣有助於產業、商務變革發展。
例如5G與AI的結合，在5G廣大覆蓋範圍內的各項運作都具有AI的自主智慧性，此可稱為自主基礎建設（Autonomous Infrastructure，或稱基礎設施）；而5G與Cloud技術的結合，除了在核心系統使用雲端技術外，也將雲端技術向前推至基地台端，即前述的邊緣運算，整體稱為邊緣雲端運算（Edge Cloud Computing）。
至於AI與Cloud的結合運作則可實現無所不在的智慧（Ubiquitous Intelligence），並讓AI能以服務方式彈性使用，稱為人工智慧即服務（AI as a Services, AIaaS），亦即使用AI不再需要自購與自建，只要依據使用量、使用時間支付使用費即可，
5G自主邊緣的具體實現
由上述可知「5G自主邊緣」處於產業與商務創新的樞紐位置，但如何讓5G基地台具備智慧，從而分擔雲端工作與加速運作反應，牽涉到具體實現技術的選擇。
特別是AI的推論技術目前可謂百家爭鳴，但許多僅為局部方案，例如只能使用限定的AI框架、硬體加速晶片的類型選擇少、晶片只針對少數的資料格式（如8位元整數）起加速作用，或缺乏微調與最佳化（或稱優化）工具等。
針對此，Intel提出OpenVINO（Open Visual Inference and Neural network Optimization）工具套件方案，OpenVINO顧名思義是開放的，並支援多種硬體加速晶片，包含CPU、GPU（或稱GPGPU）、VPU（或稱ASIC）以及FPGA；而不同的晶片也提供不同的資料格式加速能力，包含浮點32位元（FP32）、浮點16位元（FP16）、腦浮點16位元（BF16）、整數8位元（INT8）等。
OpenVINO也支援多種AI框架，除了前述的TensorFlow（Google力主）、Caffe（業界廣泛使用）外，也包含MXNet（Amazon力主）、ONNX（Microsoft力主）、PyTorch（Facebook力主）、Keras等。
圖4 OpenVINO廣泛支援不同類型AI軟體框架、AI硬體晶片。（圖片來源：Overview of Intel® Distribution of OpenVINO™ Toolkit）
更重要的是，OpenVINO能對AI模型進行修改（modify）、微調（tune），因應不同的硬體系統及環境進行最佳化，以及以不同的取向需求執行AI推論工作，如更精準推論、更快速推論，或以節能方式執行推論，充分發揮AI軟硬體的價值。
圖5 OpenVINO工具套件的工作流程。（圖片來源：Overview of Intel® Distribution of OpenVINO™ Toolkit）
5G自主邊緣之智慧工廠 － AMR
以目前的落地化程度來看，工廠智慧化對5G x Edge AI的應用需求最為明確，希望透過5G來提升廠區中高速網路的覆蓋率，達成產線機器手臂、AMR（Autonomous Mobile Robot，自主移動機器人）及各種設備間的低延遲傳輸及廣泛連結，並加速這些設備的AI推論執行，以加大工廠產能、強化產線穩定性，並保障員工的工作安全。
根據 ABI Research研究指出，工廠裏的物流機器人、倉儲機器人等各類型機器人數量爆炸型成長，且到了 2024 年，全球的機器人中，有 55% 的機器人都採用ROS（Robot Operating System，機器人作業系統）。而各類機器人中，又以AMR（Autonomous Mobile Robot，自主移動機器人）的發展特別受到關注。
AMR機器人的「自主性」，與本文探討的「5G自主邊緣」可以說有直接的關聯性。AMR強調能自行找出到達目的地的最有效途徑、輕易繞開障礙物、自動跨層運輸，高效安全地執行任務，都需要5G及OpenVINO這些技術來加持，才更容易實現。
不久後工廠內的情境將是，機台、產線、機器人等設備都運用 5G 網路低延遲、高效率的特性，透過數據分發服務（DDS）進行自主運作、平行溝通，進而實現「群機智主（Swarm Autonomy）」的目標，讓一群自主移動的機器人在最小的人為操作及監督下，就能完成特定的工作任務，而且即使在高速移動的狀況下遇到障礙物也能及時反應。
圖6 AMR要實現群機智主（Swarm Autonomy），需5G自主邊緣技術來加持（圖片來源：From Zero to Hero: Start Your AMR Projects with ADLINK Today）
結語
毫無疑問的，不久的將來5G會達到高度覆蓋，且連線的不再是人，也包含一般生活器物與社會機能的重要運作設施，然而更廣泛的連線、更高傳輸率的連線，只能為產業、商務帶來程度性的競爭力提升，而若想顛覆規則、引領變革，則需要更即時、更智慧的技術，5G自主邊緣便是為此而倡議，OpenVINO則支撐與呼應此倡議。
（本文首發於新電子，並經同意授權轉載，原文連結；責任編輯：謝涵如）
- 創客積木M5Stack加入LLM戰局 - 2024/11/29
- MLPerf大語言模型、生成式AI測項觀察 - 2024/11/27
- Sony強力加持！樹莓派發表專屬AI攝影機 - 2024/10/28
.jpg)
.jpg)