|

【開箱評測】OpenVINO讓你不上網也能和Dolly聊聊天

以往在AI模型部署優化及推論部份,通常都會想到使用 Intel OpenVINO,不過大家多半只注意到它在「電腦視覺」相關的應用,殊不知自從2022.1版後就已開始加入許多「自然語言」的範例。而最近2023.0版又更加強GPU處理記憶體動態外形(Dynamic Shape)的能力,使得如生成型預訓練變換模型(GPT)這類基於轉換器(Transfomer)技術的大型語言模型能得到更好的實現。

Read More

不用買顯卡 OpenVINO 也能玩 Stable Diffusion V2!

近期掀起的一陣AIGC浪潮讓ChatGPT大型語言模型、Midjourney與DALL-E等圖像生成模型備受關注,其中又以Stable Diffusion最受到社群熱烈討論,主要原因就是可以自行佈署與修改模型,可玩性與彈性相當大!本篇就要來介紹如何使用OpenVINO Notebooks來玩Stable Diffusion V2!

Read More

實作 OpenVINO 加速 YOLOv7 推論

YOLOv7 使用了 pyTorch 框架實作 YOLO 架構,並且導出模型,這在使用上無疑更具彈性與方便性。本篇文章將運用 OpenVINO 來對 YOLOv7 模型進行轉換,提高其在邊緣裝置上的 AI 推論效能!

Read More
No more posts to show