
用OpenVINO GenAI解鎖LLM極速推論:推測式解碼讓AI爆發潛能
2025/04/23
POSTED BY 武卓
借助簡化開發和最佳化硬體利用率的工具,OpenVINO使開發者能夠在各種即時和資源受限的場景中部署高性能的LLM;無論是構建回應迅速的聊天機器人或高效率虛擬助手,還是具備可擴展性的創意應用,OpenVINO正在重新定義AI推論的可能性。本文將探討如何利用OpenVINO GenAI的推測式解碼技術使這一變革性創新成為現實。

輕鬆用Intel AI PC及OpenVINO建立數位分身
2025/03/27
POSTED BY 許 哲豪
一個完整的數位分身,就像真人一樣,要具有自然語言對話、豐富肢體動作和產生生動表情的能力,其中就需要用到許多生成式AI技術,包括利用語音轉文字(STT)得到問題的文字,交給大語言模型(LLM)進行文字問答,再將文字轉語音(TTS)把答案讀出,最後再配合語音自動對嘴形(Lip Sync)讓人物影像的嘴巴也能和語音同步動起來。

OpenVINO 2025.0來了...一起繼續玩生成式AI吧!
2025/02/26
POSTED BY OpenVINO作者群
OpenVINO的最新版本2025.0,除了性能的再次提升,也擴大了GenAI模型的支援範圍,並針對Intel NPU導入了關鍵最佳化功能。讓我們一起來探索這些令人興奮的更新!

如何使用Intel AI PC及OpenVINO實現虛擬主播
2024/12/16
POSTED BY 許 哲豪
為了使大家能更進一步理解如何實作一個簡單離線版(邊緣端)的虛擬主播,可以輸入所需文字,產生對應語音,配合閉嘴人物影片生成新的對嘴影片。接下來就分別從「推論硬體及環境建置介紹」、「MeloTTS 文字轉語音生成」、「Wav2Lip 自動對嘴影片生成」及「建置完整虛擬主播」等四大部份作更進一步說明。

【活動報導】運用OpenVINO釋放AI PC創新威力!
2024/11/15
POSTED BY MakerPRO編輯部
第六場OpenVINO DevCon線上講座以「運用OpenVINO技術釋放AI PC的創新威力」為題,由Intel專家帶領聽眾深入了解AI PC的優勢與應用實例,並邀請到慈濟大學醫學資訊學系副教授李盛安,分享他以OpenVINO搭配AI PC平台實現AI健身輔助教練的開發經驗。

以C++語言構建OpenVINO GenAI應用程式就是這麼簡單!
2024/10/01
POSTED BY 武卓
OpenVINO GenAI API提供了原生C++介面,免除對Python依賴項的需求,讓開發者能以更節省資源的方法打造AI應用。本文提供了使用Windows作業系統為範例,逐步構建OpenVINO GenAI 應用程式的指南。

【開箱評測】探索未來:結合迷你PC與生成式AI的個人多媒體助理
2024/09/24
POSTED BY Ludwig Chen
以mini PC作為多媒體AI個人助理的應用,展現了AI技術日益貼近日常生活的趨勢,未來這類設備將在提升個人生活品質和工作效率方面扮演越來越重要的角色,而本文將分析NUC BOX-155H這台mini PC在多媒體處理上的效能,並且分享一個未來十分看好、能成為個人多媒體助理的AI模型:Stable Diffusion及其多個版本的發展與應用選擇。

輕薄型筆電OK!利用OpenVINO部署Phi-3.5「全家餐」
2024/09/20
POSTED BY 楊亦誠
近期微軟發佈了最新的Phi-3.5系列SLM模型,是非常適合在AI PC上運作的模型任務。本文將分享如何利用OpenVINO在你的AI PC上部署最新Phi-3.5-mini及Phi-3.5-vision模型。

LLM性能再強化 OpenVINO 2024.3隆重發佈!
2024/08/21
POSTED BY OpenVINO作者群
OpenVINO 2024.3版本現在已經正式推出!這次更新帶來了新的功能,並對現有功能進行了強化,特別是大型語言模型(LLM)的性能;本文將介紹此新版本的關鍵進展。

OpenVINO全新GenAI API:幾行程式碼就能快速建立GenAI App!
2024/08/14
POSTED BY OpenVINO作者群
全新的OpenVINO GenAI API為開發者提供了更簡單與清晰的程式碼;這意味著除了提供電腦視覺、AI加速與最佳化程式庫,OpenVINO現在也是開發者實現GenAI應用的助力。