【開箱評測】OpenVINO讓你不上網也能和Dolly聊聊天
以往在AI模型部署優化及推論部份,通常都會想到使用 Intel OpenVINO,不過大家多半只注意到它在「電腦視覺」相關的應用,殊不知自從2022.1版後就已開始加入許多「自然語言」的範例。而最近2023.0版又更加強GPU處理記憶體動態外形(Dynamic Shape)的能力,使得如生成型預訓練變換模型(GPT)這類基於轉換器(Transfomer)技術的大型語言模型能得到更好的實現。
最新版OpenVINO 2023.0問世:更輕鬆部署、加速AI應用!
OpenVINO 五週年紀念日即將來臨的此刻,我們很興奮地宣佈OpenVINO最新版本──OpenVINO 2023.0問世!新版本的重點是透過最大限度減少離線轉換、擴大模型支援和推進硬體最佳化來改善開發者之旅,以下讓我們對一些新功能進行深入研究…
【CAVEDU講堂】建立 ChatGPT LINE 交談式AI – 放在 RK-OpenVINO AIBox 上更方便、更酷!
近期最火熱的科技話題,非ChatGPT莫屬,本文將說明如何在 RK-OpenVINO™ AI BOX 上建立一個 LINE 對話機器人,並串接 OpenAI API 來做到更好的對話體驗。
用OpenVINO C++ API編寫YOLOv8-Seg實例分割模型推論程式
本文章將介紹使用OpenVINO C++ API開發YOLOv8-Seg實例分割(Instance Segmentation)模型的AI推論程式。
在Windows平台以Visual Studio為基礎配置OpenVINO C++開發環境
本文主要介紹如何在Windows平台以Visual Studio為基礎配置OpenVINO C++開發環境,作者將帶領大家一步步從零開始,並提供完整的測試程式碼。
AI分割一切:用OpenVINO加速Meta SAM大模型
最近在電腦視覺領域就出現了專屬的物體分割大模型,由Meta開源的「萬物可分割」(SAM)物體分割模型。這個強大的通用分割模型,當然也能用OpenVINO進行最佳化以及推論的加速,使其能方便快速地在Intel的CPU上部署執行。來跟著我們提供的程式碼與步驟一起來動手試試吧!