AI開發工具的易用性，通常對應用專案能否順利完成有很大的影響；具備直覺、容易操作等優勢的開放源碼AI開發平台OpenVINO，在專案的佈署上就能大幅減輕開發者的工作負擔。在這堂課程中，講師將從介紹OpenVINO所支援的各種佈署方式出發，再講解並示範一種該平台內建、方便使用的佈署介面Deployment Manager；接著他將帶大家了解如何使用第三方開發的Docker Container來簡化推論應用佈署，以及無論是AI開發新手或老手都適用、擁有友善圖形化使用者介面(GUI)的AI模型最佳化工具程式DL Workbench。

單元一：使用Deployment Manager讓OpenVINO佈署更容易

OpenVINO的佈署方式有許多種，主要分為 Centralized Distribution與Local Distribution兩大類(參考下表)：前者是在原有開發環境中下載OpenVINO進行開發，再將成果與原有開發環境共同打包輸出；後者則是當開發環境與OpenVINO不相同時，將另外以OpenVINO完成的開發結果打包輸出、再整合到原有開發環境中。

OpenVINO的佈署方式

Deploy Manager就是Local Distribution的一種佈署方式；OpenVINO的Local Distribution支援C或C++程式語言，即使目標硬體不包括在目前的開發環境中，也可透過Compile tool與Static Build、 Link to App等工具，僅將需要的元件載入Runtime，並以最小化的程式庫來佈署應用。而Deploy Manager則能在將應用佈署至非CPU裝置上時，透過簡單的介面依據目標機器需求進行選擇，輸出最後的佈署程式包以安裝至終端應用。

OpenVINO Deploy Manager提供的模式

單元二：使用Docker Container讓OpenVINO佈署更容易

在Centralized Distribution的佈署模式中，若開發者是在Linux環境下進行開發，往往應用程式無法像是在Windows下載一個執行檔(.exe)或搭配幾個動態函式庫(.dll)就能順利執行，各種開發工具及相依套件包常會有版本不相容問題。而Docker所扮演的角色類似虛擬機(VM)，但差別在於輕量化、不是透過虛擬化直接驅動硬體資源，而是共享作業系統資源，因此啟用一個容器(Container)和映像檔僅須數秒，但加載VM作業系統核心則得花費數分鐘。

使用VM與Docker的系統架構比較

而以往Docker只能在Linux上運作，近年來已有支援Window 及Mac OS的版本。在本單元中，講師除了詳細解說Docker架構的作用與優勢，也將一步步示範如何在作業系統中下載、安裝Docker，並以Docker Container完成OpenVINO所開發的AI應用佈署。

單元三：簡單易用的圖形化介面深度學習模型最佳化工具DL Workbench

而OpenVINO的DL Workbench，則是提供了一種簡單易用的GUI介面工具，讓開發者在不需要安裝OpenVINO工具套件、甚至在深度學習領域是初學者的情況下，透過瀏覽器就能學習什麼是模型、進行校能分析及了解結構，同時熟悉OpenVINO API及元件運作；而有深度學習開發經驗的使用者，也能用這套視覺化、佈署便利的工具，完成推論相關參數探索，觀察、調校以取得高效能模型、分析模型精準度等任務。

DL Workbench 軟體介面流程

在這個單元中，講師將詳細介紹DL Workbench的優勢與各項功能；透過簡單易懂的圖形化介面，無論是新手或老手都能輕鬆使用這套工具加速AI專案的開發流程。