|
在家造AI神器!OpenVINO讓桌面推論觸手可及
8 月19

在家造AI神器!OpenVINO讓桌面推論觸手可及

AI PC是一台配備專門用於加速AI工作負載硬體的電腦,意味著我們可以高效率地運作包含AI模型的應用程式;透過精選的軟硬體,筆者將證明幾乎任何類型的AI應用都可以在本地運作。

Read More
【實作案例】以OpenVINO實現VLM、MLLM導入產業應用
8 月07

【實作案例】以OpenVINO實現VLM、MLLM導入產業應用

本文從技術原理出發,結合理論與實測,展示了如何以Phi-3 Vision為核心模型,配合OpenVINO部署最佳化與YOLOv8偵測模組,建構可實際落地的多模態語言模型應用架構。

Read More
馬上就用OpenVINO部署Qwen3模型!
7 月28

馬上就用OpenVINO部署Qwen3模型!

透過實施多種最佳化策略,OpenVINO工具套件成功地將Qwen模型高效部署於英特爾硬體平台之上。

Read More
OpenVINO 2025.2:支援全新模型、生成式AI流水線與性能全面升級
7 月09

OpenVINO 2025.2:支援全新模型、生成式AI流水線與性能全面升級

OpenVINO 2025.2問世啦!這次的版本更新導入了對最新AI模型的支援,以及全新AI流水線與多項性能提升,能讓先進的AI比以往更容易取得。

Read More
用OpenVINO GenAI解鎖LLM極速推論:推測式解碼讓AI爆發潛能
4 月23

用OpenVINO GenAI解鎖LLM極速推論:推測式解碼讓AI爆發潛能

借助簡化開發和最佳化硬體利用率的工具,OpenVINO使開發者能夠在各種即時和資源受限的場景中部署高性能的LLM;無論是構建回應迅速的聊天機器人或高效率虛擬助手,還是具備可擴展性的創意應用,OpenVINO正在重新定義AI推論的可能性。本文將探討如何利用OpenVINO GenAI的推測式解碼技術使這一變革性創新成為現實。

Read More
輕鬆用Intel AI PC及OpenVINO建立數位分身
3 月27

輕鬆用Intel AI PC及OpenVINO建立數位分身

一個完整的數位分身,就像真人一樣,要具有自然語言對話、豐富肢體動作和產生生動表情的能力,其中就需要用到許多生成式AI技術,包括利用語音轉文字(STT)得到問題的文字,交給大語言模型(LLM)進行文字問答,再將文字轉語音(TTS)把答案讀出,最後再配合語音自動對嘴形(Lip Sync)讓人物影像的嘴巴也能和語音同步動起來。

Read More