【Edge AI開發工具】OpenVINO功能教學 ─ 模型優化器(Model Optimizer)
關於此課程
對於已經了解Edge AI能提供什麼樣的優勢與多樣化智慧功能的開發者來說,應該都迫不及待想動手嘗試打造心目中的創新應用。在本系列課程的第一堂課,我們介紹了一套能讓開發者輕鬆實現Edge AI應用的開放性工具平台OpenVINO,它具備簡化的開發流程,僅需編寫一次程式碼或演算法,就可以在不同的Intel架構平台部署深度學習,取得快速、準確的推論結果。
OpenVINO有一個非常重要的元件是模型優化器(Model Optimizer,MO),其功能是能為已訓練的AI模型做最佳化,並支援各種深度學習框架,因此無論開發者採用的框架是TensorFlow、 PyTorch或MXNet…等等,都能透過MO完成轉檔,將最佳化模型部署於CPU、iGPU、FPGA或是VPU等底層指令集各自不同的硬體平台;這是利用OpenVINO開發Edge AI的流程中非常關鍵的步驟,也能為開發者解決許多開發過程中的痛點。
本課程中透過兩位專業講師的詳細講解以及實際示範操作,您將清楚認識MO架構與各種功能,讓您對於EdgeAI專案的開發更得心應手。
#1 Model Optimizer模型優化器架構與功能介紹|Jacko Chiu
在本節課程,講師將由Model Optimizer在OpenVINO平台的開發流程中所扮演的角色說起,介紹MO的模型最佳化方式與功能;例如考量到Edge AI裝置的記憶體儲存容量、功耗有限,MO能將訓練後的AI模型轉換為不至於失去太多精度、尺寸卻更小的檔案。
因為MO強調與各種深度學習框架的相容性,轉換檔案的步驟非常簡單,不需要特別進行程式碼的修改等繁瑣工作。
只要在開始使用MO工具之前別忘了一些必要的參數設定,以及確定OpenVINO Runtime與工具的版本是否相同,就可以輕鬆開始模型最佳化流程。
#2 使用模型優化器轉換 Tensorflow Keras 預訓練模型 | Bryan Sung
如果前面的架構與功能介紹還不夠讓您了解MO的強大,在本節課程中,講師將透過實際的操作講解如何將TensorFlow框架模型轉換為OpenVINO的IR檔,並以兩種最熱門的模型YOLOv4與EfficientDet作為範例。快來跟著講師一步步學習如何快速實現創新應用落地!
#3 使用Model Optimizer轉換PyTorch ONNX預訓練模型 | Jacko.Chiu
此外針對從PyTorch框架輸出ONNX模型格式,MO也能輕鬆轉換為OpenVINO的IR檔;在本節課程中,專業講師將為大家示範如何不費吹灰之力完成轉檔任務。
【講師介紹】
邱哿振 Jacko Chiu
現任文曄科技FAE,負責Intel產品線,主要負責教育客戶使用OpenVINO。研究專長:密碼學、資訊安全、網路安全、與隱私保護技術熟悉VPN Router firewall/QoS、OpenWRT等通訊技術,PCI安全模組在POS的建置,以及金融交易系統的相關開發工作。
宋茂全 Bryan Sung
在知名電子業代理商的先進數位影像實驗室從事研究工作長達15年。更早在中華電信研究院擔任助理研究員。擁有多篇多媒體影像串流技術相關專利。
課程內容
#1 Model Optimizer模型優化器架構與功能介紹|Jacko Chiu
-
Model Optimizer模型優化器架構與功能介紹
28:05