如何用OpenVINO讓YOLOv8獲得1000+FPS性能？

Posted By 武卓 on 3 月 16, 2023 in Edge AI, Edge AI教學文, Edge AI開發地圖, Intel, OpenVINO, OpenVINO專欄, OpenVINO應用, OpenVINO教學文, YOLOv5/7/8, 影像分割, 影像處理, 教學文, 物件偵測, 開發套件 | 0 comments

YOLO家族又添新成員了！作為以目標檢測領域聞名的模型家族，You Only Look Once (YOLO) 推出新模型的速度可謂是越來越快。就在1月份，YOLO又推出了最新的YOLOv8模型，其模型結構和架構上的創新，以及所提供的性能提升，使其剛問世就獲得廣大開發者的關注。

YOLOv8的性能到底怎麼樣？如果說利用OpenVINO的量化和加速，利用英特爾CPU、整合式顯卡以及獨立顯卡與同一程式碼庫無縫協作，可以獲得1000+ FPS的性能，你相信嗎？那不妨繼續往下看，我們將一步步教你利用OpenVINO在英特爾處理器上實現這樣的性能。

圖1. YOLOv8推論結果範例。

讓我們開始吧！

注意：以下步驟中的所有程式碼來自OpenVINO Notebooks開源庫中的"230-yolov8-optimization" notebook 程式碼範例，可以點擊以下連結直達原始程式碼：openvino_notebooks/230-yolov8-optimization.ipynb at main · openvinotoolkit/openvino_notebooks · GitHub

第一步：安裝相對應工具套件及載入模型

本次程式碼範例我們使用的是Ultralytics YOLOv8模型，因此需要首先安裝相對應工具套件。

!pip install "ultralytics==8.0.5"

然後下載及載入相對應的PyTorch模型。

from ultralytics import YOLO

MODEL_NAME = "yolov8n"

model = YOLO(f'{MODEL_NAME}.pt')

label_map = model.model.names

定義測試圖片的路徑，獲得原始PyTorch模型的推論結果。

IMAGE_PATH = "../data/image/coco_bike.jpg"

results = model(IMAGE_PATH, return_outputs=True)

其執行效果如下：