如何使用Intel AI PC及OpenVINO實現虛擬主播
2024/12/16
POSTED BY 許 哲豪
為了使大家能更進一步理解如何實作一個簡單離線版(邊緣端)的虛擬主播,可以輸入所需文字,產生對應語音,配合閉嘴人物影片生成新的對嘴影片。接下來就分別從「推論硬體及環境建置介紹」、「MeloTTS 文字轉語音生成」、「Wav2Lip 自動對嘴影片生成」及「建置完整虛擬主播」等四大部份作更進一步說明。
【活動報導】運用OpenVINO釋放AI PC創新威力!
2024/11/15
POSTED BY MakerPRO編輯部
第六場OpenVINO DevCon線上講座以「運用OpenVINO技術釋放AI PC的創新威力」為題,由Intel專家帶領聽眾深入了解AI PC的優勢與應用實例,並邀請到慈濟大學醫學資訊學系副教授李盛安,分享他以OpenVINO搭配AI PC平台實現AI健身輔助教練的開發經驗。
以C++語言構建OpenVINO GenAI應用程式就是這麼簡單!
2024/10/01
POSTED BY 武卓
OpenVINO GenAI API提供了原生C++介面,免除對Python依賴項的需求,讓開發者能以更節省資源的方法打造AI應用。本文提供了使用Windows作業系統為範例,逐步構建OpenVINO GenAI 應用程式的指南。
【開箱評測】探索未來:結合迷你PC與生成式AI的個人多媒體助理
2024/09/24
POSTED BY Ludwig Chen
以mini PC作為多媒體AI個人助理的應用,展現了AI技術日益貼近日常生活的趨勢,未來這類設備將在提升個人生活品質和工作效率方面扮演越來越重要的角色,而本文將分析NUC BOX-155H這台mini PC在多媒體處理上的效能,並且分享一個未來十分看好、能成為個人多媒體助理的AI模型:Stable Diffusion及其多個版本的發展與應用選擇。
輕薄型筆電OK!利用OpenVINO部署Phi-3.5「全家餐」
2024/09/20
POSTED BY 楊亦誠
近期微軟發佈了最新的Phi-3.5系列SLM模型,是非常適合在AI PC上運作的模型任務。本文將分享如何利用OpenVINO在你的AI PC上部署最新Phi-3.5-mini及Phi-3.5-vision模型。
LLM性能再強化 OpenVINO 2024.3隆重發佈!
2024/08/21
POSTED BY OpenVINO作者群
OpenVINO 2024.3版本現在已經正式推出!這次更新帶來了新的功能,並對現有功能進行了強化,特別是大型語言模型(LLM)的性能;本文將介紹此新版本的關鍵進展。
OpenVINO全新GenAI API:幾行程式碼就能快速建立GenAI App!
2024/08/14
POSTED BY OpenVINO作者群
全新的OpenVINO GenAI API為開發者提供了更簡單與清晰的程式碼;這意味著除了提供電腦視覺、AI加速與最佳化程式庫,OpenVINO現在也是開發者實現GenAI應用的助力。
OpenVINO 2024.2姿態模型效能評估:以OpenPose、YOLOv8與3D-Pose為例
2024/08/05
POSTED BY 李盛安
本文主要於ASRock NUC BOX-155H平台進行,使用Intel Core Ultra運作的NUC (下一代計算單元)。我們將姿態辨識模型OpenPose、3D Pose、MoveNet 與 YOLOv8 模型轉換為OpenVINO IR模型格式,分別在CPU、iGPU及NPU上進行部署。觀察這些模型在CPU、iGPU及NPU的硬體效能差異,透過實際執行影片推論的過程,觀察NPU的性能表現。
【開箱實測】OpenVINO榨出單板極限,實作離線LLM AI助理!
2024/07/25
POSTED BY Lin Felix
在當前AI PC問世之際,相信不少人已知道OpenVINO可以加速離線大語言模型(LLM)的推論速度,本篇文章是要更進一步在資源更為受限的單板電腦上進行大語言模型的推論,甚至是實作一個離線大語言模型的AI助理出來!
以LLaVA-NeXT和NNCF先進量化技術掌握多模態AI
2024/06/18
POSTED BY OpenVINO作者群
在這篇文章中,我們將探索LLaVA-NeXT多模態聊天機器人Notebook,學習如何轉換和最佳化LLaVA-NeXT模型來打造多模態聊天機器人。此外,我們將探討如何在LLM部分應用有狀態轉換(stateful transformation)和使用NNCF進行權重壓縮和量化等模型最佳化技術。