|
OpenVINO全新GenAI API:幾行程式碼就能快速建立GenAI App!
8 月14

OpenVINO全新GenAI API:幾行程式碼就能快速建立GenAI App!

全新的OpenVINO GenAI API為開發者提供了更簡單與清晰的程式碼;這意味著除了提供電腦視覺、AI加速與最佳化程式庫,OpenVINO現在也是開發者實現GenAI應用的助力。

Read More
OpenVINO 2024.2姿態模型效能評估:以OpenPose、YOLOv8與3D-Pose為例
8 月05

OpenVINO 2024.2姿態模型效能評估:以OpenPose、YOLOv8與3D-Pose為例

本文主要於ASRock NUC BOX-155H平台進行,使用Intel Core Ultra運作的NUC (下一代計算單元)。我們將姿態辨識模型OpenPose、3D Pose、MoveNet 與 YOLOv8 模型轉換為OpenVINO IR模型格式,分別在CPU、iGPU及NPU上進行部署。觀察這些模型在CPU、iGPU及NPU的硬體效能差異,透過實際執行影片推論的過程,觀察NPU的性能表現。

Read More
【開箱實測】OpenVINO榨出單板極限,實作離線LLM AI助理!
7 月25

【開箱實測】OpenVINO榨出單板極限,實作離線LLM AI助理!

在當前AI PC問世之際,相信不少人已知道OpenVINO可以加速離線大語言模型(LLM)的推論速度,本篇文章是要更進一步在資源更為受限的單板電腦上進行大語言模型的推論,甚至是實作一個離線大語言模型的AI助理出來!

Read More
以LLaVA-NeXT和NNCF先進量化技術掌握多模態AI
6 月18

以LLaVA-NeXT和NNCF先進量化技術掌握多模態AI

在這篇文章中,我們將探索LLaVA-NeXT多模態聊天機器人Notebook,學習如何轉換和最佳化LLaVA-NeXT模型來打造多模態聊天機器人。此外,我們將探討如何在LLM部分應用有狀態轉換(stateful transformation)和使用NNCF進行權重壓縮和量化等模型最佳化技術。

Read More
釋放多模態AI的力量:利用Pix2Struct和Optimum Intel
6 月17

釋放多模態AI的力量:利用Pix2Struct和Optimum Intel

多模態可以同時處理視覺、聽覺和文字資料,以驚人的深度和精確度解釋其環境;在這篇文章中,我們將深入探討多模態AI的能力,並探索Intel的OpenVINO工具套件如何最佳化這些複雜系統,以因應現實世界的應用。

Read More
LangChain框架已正式支援OpenVINO!
6 月12

LangChain框架已正式支援OpenVINO!

透過LangChain,開發者可以輕鬆構建基於RAG或者Agent流水線的複雜應用體系,而目前我們已經可以在LangChain 的關鍵元件LLM、Text Embedding和Reranker中直接呼叫OpenVINO進行模型部署!

Read More