Edge AI開發平台比一比
|
【開箱評測】OpenVINO讓你不上網也能和Dolly聊聊天
7 月04

【開箱評測】OpenVINO讓你不上網也能和Dolly聊聊天

以往在AI模型部署優化及推論部份,通常都會想到使用 Intel OpenVINO,不過大家多半只注意到它在「電腦視覺」相關的應用,殊不知自從2022.1版後就已開始加入許多「自然語言」的範例。而最近2023.0版又更加強GPU處理記憶體動態外形(Dynamic Shape)的能力,使得如生成型預訓練變換模型(GPT)這類基於轉換器(Transfomer)技術的大型語言模型能得到更好的實現。

Read More
利用OpenVINO部署HuggingFace預訓練模型的方法與技巧
6 月27

利用OpenVINO部署HuggingFace預訓練模型的方法與技巧

透過HuggingFace開源的Transformers、Diffusers程式庫,只需要要調用少量介面函數,入門開發者也可以非常便捷地微調和部署自己的大模型任務,你甚至不需要知道什麼是GPT、BERT就可以用它們的模型,開發者不需要從頭開始構建模型任務,大幅簡化了工作流程。

Read More
最新版OpenVINO 2023.0問世:更輕鬆部署、加速AI應用!
6 月14

最新版OpenVINO 2023.0問世:更輕鬆部署、加速AI應用!

OpenVINO 五週年紀念日即將來臨的此刻,我們很興奮地宣佈OpenVINO最新版本──OpenVINO 2023.0問世!新版本的重點是透過最大限度減少離線轉換、擴大模型支援和推進硬體最佳化來改善開發者之旅,以下讓我們對一些新功能進行深入研究…

Read More
不用買顯卡 OpenVINO 也能玩 Stable Diffusion V2!
6 月05

不用買顯卡 OpenVINO 也能玩 Stable Diffusion V2!

近期掀起的一陣AIGC浪潮讓ChatGPT大型語言模型、Midjourney與DALL-E等圖像生成模型備受關注,其中又以Stable Diffusion最受到社群熱烈討論,主要原因就是可以自行佈署與修改模型,可玩性與彈性相當大!本篇就要來介紹如何使用OpenVINO Notebooks來玩Stable Diffusion V2!

Read More
用OpenVINO C++ API編寫YOLOv8-Seg實例分割模型推論程式
5 月26

用OpenVINO C++ API編寫YOLOv8-Seg實例分割模型推論程式

本文章將介紹使用OpenVINO C++ API開發YOLOv8-Seg實例分割(Instance Segmentation)模型的AI推論程式。

Read More
在Windows平台以Visual Studio為基礎配置OpenVINO C++開發環境
5 月23

在Windows平台以Visual Studio為基礎配置OpenVINO C++開發環境

本文主要介紹如何在Windows平台以Visual Studio為基礎配置OpenVINO C++開發環境,作者將帶領大家一步步從零開始,並提供完整的測試程式碼。

Read More