益登科技7/25舉辦『運用Jetson Orin™ 模組打造先進視覺AI應用』線上課程，邀請夜市小霸王創辦人尤濬哲老師分享Jetson Orin™模組的評測心得及AI視覺辨識應用的示範教學；同時邀請益登科技技術代表Forrest Chien加碼介紹NVIDIA OMNIVERSE平台與TAO開發工具如何結合Jetson Orin™模組，在數位孿生（Digital Twin）的前瞻AI應用領域發揮優異表現，吸引了超過130位學員的熱情參與。
邊緣運算的需求與限制
尤濬哲老師首先就『邊緣運算』概念作介紹：「邊緣運算是將拍攝影像或感測資料直接在應用場域現場做運算處理，而非送到雲端運算。」以自動駕駛的車輛為例，當它在路上偵測到前方有行人時，若需將偵測到的資訊上傳到雲端計算，再發出指令剎車，恐怕緩不濟急；『邊緣運算』的概念是將這些偵測到的資訊，直接在自身模組上運算並做出即時反應。
由於現場部署的環境限制大，『邊緣裝置』必須達到最佳化運算力、低功耗、體積小與高效能等目標，傳統的筆電、電腦都無法達成這樣的目標，Jetson Orin模組這樣的迷你主機模組則是更理想的選擇。
邊緣運算示意圖
邊緣裝置四大特點
Jetson Orin模組的效能實測
尤濬哲表示，Jetson Nano系列家族自2014年問世以來，至今近10年，最新的Orin AGX效能與早期的Jetson Nano相比較，效能超前4~5倍(參照附圖)，且全功能運轉時的耗能僅25W，體積更遠小於桌上型電腦。他實機展示一些使用情境，例如以PeopleNet肢體檢測來做比較，待機狀態功耗約10W上下，單人瑜珈偵測(FPS123)約20W，團體舞蹈偵測(FPS116.4)約21W左右，這樣的功耗表現令人滿意。
NVIDIA Jetson Orin Nano在PeopleNet肢體檢測的功能表現
Jetson Orin Nano的效能，大約介於RTX3060、RTX3070兩者顯示卡GPU之間，但耗能僅1/3~1/2，還沒算上主機零組件的耗能。另外尤濬哲以高速公路車輛偵測影片為例，在DARKNET物件檢測部分，以目前常用的YOLOv4與較新的YOLOv7兩種演算法比較，辨識車輛的準確度都夠高，功耗約30~33W左右。YOLOv8的辨識度差不多，功耗則降低到近20W，且溫度都沒超過50℃。
Jetson家族歷代表現比較
NVIDIA OMNIVERSE平台 與 TAO 工具組
Forrest則分享NVIDIA的OMNIVERSE與TAO工具包的應用，他以電影『鋼鐵人』中，史塔克操控虛擬影像為例指出，將現實世界化為虛擬影像的應用將會愈來愈普及，這和數位孿生（Digital Twin）受到重視很有關係，NVIDIA推出的Omniverse平台則有助於數位孿生目標的實現。他說：「以汽車的開發過程為例，其外型的設計發想、內裝的設計模擬，到自動駕駛情境的導入，都可用Omniverse在數位世界先做出一套來。
NVIDIA Omniverse 平台功能
Forrest更分享了目前在AI模型的訓練上，還需要『餵養』大量的資料跟樣本，針對訓練AI以產出所需的模型，NVIDIA也提出了一個解決方案：TAO Toolkits。TAO 工具套件是一款 Python 工具套件，讓開發者可以使用自己的資料，自訂專用、經過預先訓練的神經模型。TAO 工具套件的目的是在自訂企業資料上，輕鬆重新訓練最先進、經過最佳化且預先訓練的模型。
NVIDIA TAO 工具組的端對端AI模型開發
好康回饋：教育版NVIDIA Jetson Orin低價方案
益登科技為了鼓勵學界人士多來使用Jetson Orin模組，提升AI視覺應用設計與開發的經驗與成果，因此只要隸屬於教育機構、學生、教育工作者和研究人員，擁有有效的學校電子郵件，註冊/登入NVIDIA教育版專屬頁面，通過認證後可收到一個一次性的使用代碼，可用於訂購 Jetson AGX Orin 開發套件或 Jetson Orin Nano 開發套件(每個開發套件每人限購一台)。
詳情請見：https://www.edomtech.com/zh-tw/events-detail/jetson-edu-program/
- Himax展示新一代WiseEye超低功耗AI智慧感測方案 - 2024/04/23
- 為AI/ML工作負載最佳化 Alif新推BLE MCU - 2024/04/11
- Arm新一代Ethos-U NPU與IoT參考設計平台亮相 - 2024/04/10
