以C++語言構建OpenVINO GenAI應用程式就是這麼簡單！
OpenVINO GenAI API提供了原生C++介面，免除對Python依賴項的需求，讓開發者能以更節省資源的方法打造AI應用。本文提供了使用Windows作業系統為範例，逐步構建OpenVINO GenAI 應用程式的指南。
輕薄型筆電OK！利用OpenVINO部署Phi-3.5「全家餐」
近期微軟發佈了最新的Phi-3.5系列SLM模型，是非常適合在AI PC上運作的模型任務。本文將分享如何利用OpenVINO在你的AI PC上部署最新Phi-3.5-mini及Phi-3.5-vision模型。
LLM性能再強化 OpenVINO 2024.3隆重發佈！
OpenVINO 2024.3版本現在已經正式推出！這次更新帶來了新的功能，並對現有功能進行了強化，特別是大型語言模型(LLM)的性能；本文將介紹此新版本的關鍵進展。
OpenVINO全新GenAI API：幾行程式碼就能快速建立GenAI App！
全新的OpenVINO GenAI API為開發者提供了更簡單與清晰的程式碼；這意味著除了提供電腦視覺、AI加速與最佳化程式庫，OpenVINO現在也是開發者實現GenAI應用的助力。
OpenVINO 2024.2姿態模型效能評估：以OpenPose、YOLOv8與3D-Pose為例
本文主要於ASRock NUC BOX-155H平台進行，使用Intel Core Ultra運作的NUC (下一代計算單元)。我們將姿態辨識模型OpenPose、3D Pose、MoveNet 與 YOLOv8 模型轉換為OpenVINO IR模型格式，分別在CPU、iGPU及NPU上進行部署。觀察這些模型在CPU、iGPU及NPU的硬體效能差異，透過實際執行影片推論的過程，觀察NPU的性能表現。
【開箱實測】OpenVINO榨出單板極限，實作離線LLM AI助理！
在當前AI PC問世之際，相信不少人已知道OpenVINO可以加速離線大語言模型(LLM)的推論速度，本篇文章是要更進一步在資源更為受限的單板電腦上進行大語言模型的推論，甚至是實作一個離線大語言模型的AI助理出來！
No Code自動化工具：n8n AI實作課程說明會
.jpg)
.jpg)