|

如何用OpenVINO讓YOLOv8獲得1000+FPS性能?

   
作者:武卓

YOLO家族又添新成員了!作為以目標檢測領域聞名的模型家族,You Only Look Once (YOLO) 推出新模型的速度可謂是越來越快。就在1月份,YOLO又推出了最新的YOLOv8模型,其模型結構和架構上的創新,以及所提供的性能提升,使其剛問世就獲得廣大開發者的關注。

YOLOv8的性能到底怎麼樣?如果說利用OpenVINO的量化和加速,利用英特爾CPU、整合式顯卡以及獨立顯卡與同一程式碼庫無縫協作,可以獲得1000+ FPS的性能,你相信嗎?那不妨繼續往下看,我們將一步步教你利用OpenVINO在英特爾處理器上實現這樣的性能。

圖1. YOLOv8推論結果範例。

讓我們開始吧!

注意:以下步驟中的所有程式碼來自OpenVINO Notebooks開源庫中的"230-yolov8-optimization" notebook 程式碼範例,可以點擊以下連結直達原始程式碼:openvino_notebooks/230-yolov8-optimization.ipynb at main · openvinotoolkit/openvino_notebooks · GitHub

第一步:安裝相對應工具套件及載入模型

本次程式碼範例我們使用的是Ultralytics YOLOv8模型,因此需要首先安裝相對應工具套件。

!pip install "ultralytics==8.0.5"

然後下載及載入相對應的PyTorch模型。

from ultralytics import YOLO

MODEL_NAME = "yolov8n"

model = YOLO(f'{MODEL_NAME}.pt')

label_map = model.model.names

定義測試圖片的路徑,獲得原始PyTorch模型的推論結果。

IMAGE_PATH = "../data/image/coco_bike.jpg"

results = model(IMAGE_PATH, return_outputs=True)

其執行效果如下:

本文為會員限定文章

立即加入會員! 全站文章無限看~

                               

已經是會員? 按此登入

只需不到短短一分鐘...

輸入您的信箱與ID註冊即可享有一切福利!

會員福利
1

免費電子報

2

會員搶先看

3

主題訂閱

4

好文收藏

武卓

Author: 武卓

武卓博士現任英特爾AI軟體佈道師

Share This Post On

Submit a Comment

發佈留言必須填寫的電子郵件地址不會公開。 必填欄位標示為 *