【AI 機器視覺未來】AI Drive-Thru Service（AI 得來速）

團隊名稱：AI機器視覺未來

提案動機：

友達光電近年來積極進行數位轉型，由於工廠位置坐落於各地，從林口到高雄皆有友達工廠的身影，如何將智慧製造的方案迅速有效的平展執行於各廠區，便是一個重要課題。

作品簡介：

建構一個AI Market Center，Center裡面包含Component Store、APP Store與報表平台。

使用者可以依照場域要執行的方案，進入AI Market Center進行相關方案的選擇。Center上APP Store上有符合場域要進行的方案，可直接選用執行；若APP無適合的方案，則可至Component依照場域方案流程，自行組合，以符合場域方案需求。

使用軟硬體如下：

硬體：

• Intel(R) Core(TM) i9-12900H @ 2.50GHz (12 threads)
• Intel(R) Core(TM) i7-11800H @ 2.30GHz (16 threads)
• Intel(R) Core(TM) i5-8279U

軟體：

• Intel® OpenVINO Toolkit – 2022.1 – 2021.1
• Intel® DevCloud

其他：

• 友達系統軟體
• 雲端服務

OpenVINO解決方案：

Generative AI 我們這次主要兩個ML框架去運作，其中之一為GAN，另一種為Diffusion Models。在工廠內我們遇到訓練樣本資料太少，與辨識種類很多，遇到訓練資料不平衡等問題，在訓練過程中拍了約 10~200多 張照片，然後全部標註，使用 OpenVINO 強化推論效率，運用GAN生成更多不同種類的照片，加入模型訓練完成後，實測結果Accuracy平均高於 95%，因此很推薦使用 OpenVINO。

另外在AI Market Center上Component，我們也運用OpenVINO進行優化。

例如: 在訓練過程中拍了約 3,500 張照片，然後標註約 3,500 張，訓練完成後 用 OpenVINO 強化推論效率，實測結果每秒可到 140 個 Frame，最低也有 30 個，平均可信度高於 95%，因此很推薦使用 OpenVINO。使用 OpenVINO訓練後優化工具 (POT)執行模型量化，比較 FP32 精度和量化的 INT8 精度模型之間的模型精度，並根據Ultralytics的示例代碼運行模型推理演示帶有OpenVINO後端的 Yolov5。

首先，我們將YOLOv5m 模型導出到 OpenVINO IR 。然後我們使用 OpenVINO訓練後優化工具 (POT) API 基於 Ultralytics 提供的非最大值抑制 (NMS) 處理對模型進行量化。通過訓練後優化工具(POT) Python* API，能夠將POT 支持的優化方法注入使用OpenVINO™ Python* API編寫的模型推理腳本。將 POT 命令行工具與Accuracy Checker提供的適配器、配置文件的前/後處理和度量一起使用。當使用帶有 omz_quantizer 工具的Open Model Zoo模型時，建議這樣做。

成果介紹：

使用Intel® Distribution of OpenVINO™ Toolkit，在每個APP Component中的模型進行優化，通過應用量化、修剪、預處理優化等特殊優化方法來提升模型的最終性能，提高計算機視覺、Sound Classification和其他常見任務的深度學習性能。

使用者界面簡單：

通過拖放或分層應用程序組件來建立網站或是內容。設計師只需要一些基本架構的培訓，且不用寫複雜的程式碼。

開發速度更快：

因不需要繁複的Coding過程，意味著平台啟動速度更快，因此不必浪費時間可以將網站快速上架，使用 Deep Learning Workbench對邊緣設備優化的解決方案，並利用新的、更強大的遙測儀表板，並將你的產品推向市場。

更低的花費：

借助 Edge Software Hub 或Intel生態系統合作夥伴的解決方案，快速跟踪從原型到生產的路徑，從而更快地啟動並降低成本。

企業客戶量身打造專屬的機聯網數位轉型計畫，因工廠內的機器比較老舊，有很多工具機沒有網路，機臺中的資訊是無法被保存下來，廠內機臺的稼動資訊都是靠人員手動輸入，我們幫客戶從基礎建設開始，工廠數位轉型，戰情室第一步就是先要有資料，先把機臺數據收集，數據化的管理，使用Intel® Distribution of OpenVINO™ Toolkit，自動化管理，數據可視化， 機台資料收集，數據化的管理。輔助企業「創新升級 轉型再造」傳產也能變身智慧產業，為消費者/企業及各領域合作夥伴帶來新體驗。

參考資料：

[1] https://docs.openvino.ai/

[2] https://www.auo.com/zh-TW/News_Archive/index