【先試再上】Intel DevCloud助你雲端驗證AI佈署，免費！

Posted By 許 哲豪 on 7 月 15, 2021 in Edge AI, Edge AI開發地圖, Intel, OpenVINO, OpenVINO專欄, OpenVINO教學文, 教學文 | 0 comments

俗話說「男怕入錯行，女怕嫁錯郎」，從這句話可看出，大家對於要投入大量時間、精力及金錢的場景通常都會考慮再三，尤其有「選擇困難症」的朋友就更是要失眠好幾天還不一定能有最終的決定。

為了減輕「選擇困難症」帶來的麻煩，「免費試用」就變成一個賣家和買家雙贏的作法。小到我們常去的大賣場有很多試吃、試用的體驗，大到婚宴、旅遊業這類高單價、一次性活動也開始提供虛擬實境(Virtual Reality, VR)服務，讓你先體驗一下花錢及享受的快感，就能更清楚及勇敢地把錢花在刀口上。

那對於「人工智慧」(Artificial Intelligence, AI) 這種要花大錢且有著很高不確定成果效益的領域，難道要花一堆錢買一堆設備來佈署測試，沒有「先試再買」的服務嗎？ Intel 聽到大家的期望了，所以推出了免費雲端開發平台「Intel DevCloud for the Edge」（以下簡稱DevCloud）這項服務。

有了DevCloud，大家不只能夠在上面使用預載的「Intel® Distribution of OpenVINO™ Toolkit」（以下簡稱OpenVINO）進行AI推論程式開發及測試，還有一堆不同排列組合的硬體（如CPU、iGPU、VPU、FPGA等）可以協助評估佈署後效能，讓使用者可更精準地採購所需設備，才不會發生殺雞卻用了火箭筒超規格的窘境。

接下來就讓我們從「DevCloud系統架構及工作流程」、「支援環境及硬體」、「系統安裝」、「開發者主頁面及範例集」、「檔案管理介面」、「程式運行介面」、「直接運行方式」及「派工運行及佈署評估」等幾個方面來深入了解一下這項免費工具究竟如何幫助我們以最好的性價比來開發及佈署。

DevCloud系統架構及工作流程

首先幫大家簡單說明一下什麼是DevCloud，它是一個免費的雲端的開發平台，很像Google Colab，已預裝了OpenVINO™ Toolkit (Open Visual Inference and Neural network Optimization)方便開發AI應用程式，目前有提供兩種版本2020.3.2 LTS及2021.3。 程式開發介面上提供有Jupyter Notebook介面及Google Colab沒有提供的終端機介面。

內建有Python 2.7.17及3.6.9版，且預裝有matplotlib (3.3.4), mxnet (1.5.1), numpy (1.18.5), onnx (1.8.1), opencv-python (4.5.1.48), scikit-learn (0.24.1), tensorflow (1.15.1), torch (1.4.0)等各種常用套件包（可使用!pip list或!pip3 list指令查詢已安裝套件包），當然亦可隨程式需要自己新增、刪除或升降級套件包的版本。

另有提供50 GByte的儲存空間，方便儲放自己寫的程式、下載的模型及資料集，不會像Google Colab每次啟動虛擬機時儲存空間都會被清空。另外使用者還可調用各種實體的硬體（如CPU, iGPU, VPU, FPGA）來運行程式，方便比較各種組合的執行效能。 其主要工作流程如Fig. 1所示。