【實作案例】以OpenVINO實現VLM、MLLM導入產業應用
本文從技術原理出發,結合理論與實測,展示了如何以Phi-3 Vision為核心模型,配合OpenVINO部署最佳化與YOLOv8偵測模組,建構可實際落地的多模態語言模型應用架構。
Intel宣示改革決心 重塑AI戰略
Intel執行長陳立武發表了一封致全體員工的公開信,強調Intel將從過去以訓練與晶片硬體為中心的AI發展思維,轉向如推論與代理式AI等「更具顛覆性與差異化潛力」的領域。
OpenVINO 2025.2:支援全新模型、生成式AI流水線與性能全面升級
OpenVINO 2025.2問世啦!這次的版本更新導入了對最新AI模型的支援,以及全新AI流水線與多項性能提升,能讓先進的AI比以往更容易取得。
英特爾與宏碁智醫以AI PC大幅縮短眼部病變檢測時間
宏碁智醫的AI輔助軟體VeriSee DR用於輔助診斷糖尿病視網膜病變,而針對年齡性黃斑部病變則有VeriSee AMD為輔助篩檢工具。這些工具的檢測結果皆採用搭載Intel Core Ultra處理器的宏碁筆記型電腦進行處理和儲存,全程無需網路連線…
認識IPEX-LLM:LLM模型最佳化的PyTorch工具
IPEX-LLM是英特爾為其 XPU(Xeon/Core/Flex/Arc/PVC)提出的低位元 LLM 開源(Apache 2.0授權)函式庫,是專為 PyTorch 生態打造的LLM執行擴充套件,具有廣泛的模型支援、低延遲和記憶體佔用小等優勢。
用OpenVINO GenAI解鎖LLM極速推論:推測式解碼讓AI爆發潛能
借助簡化開發和最佳化硬體利用率的工具,OpenVINO使開發者能夠在各種即時和資源受限的場景中部署高性能的LLM;無論是構建回應迅速的聊天機器人或高效率虛擬助手,還是具備可擴展性的創意應用,OpenVINO正在重新定義AI推論的可能性。本文將探討如何利用OpenVINO GenAI的推測式解碼技術使這一變革性創新成為現實。