|
加速英特爾GPU上的LLM:實用的動態量化指南
10 月09

加速英特爾GPU上的LLM:實用的動態量化指南

動態量化是一種強大的最佳化技術,能顯著提升Transformer模型在Intel GPU的性能,包括搭載於Lunar Lake、Arrow Lake處理器,配備XMX引擎的硬體,以及Alchemist、Battlemage等系列獨立顯卡。

Read More
OpenVINO 2025.3: 更多生成式AI,釋放無限可能
9 月26

OpenVINO 2025.3: 更多生成式AI,釋放無限可能

全新 OpenVINO 2025.3 版本帶來更快的上手體驗和更強大的性能。此次升級重點聚焦生成式AI,新增對多種尖端模型的支援,並推出全新GenAI流水線,全面擴展了OpenVINO Model Server的能力。

Read More
有了Intel AI Playground 不寫程式也能輕鬆玩生成式AI
9 月02

有了Intel AI Playground 不寫程式也能輕鬆玩生成式AI

Intel整合自家NPU/GPU硬體強大算力及OpenVINO開源推論工具套件,開發出一套「AI Playground」,讓聊天對話、文字生成影像及影像強化輕輕鬆鬆就能完成。

Read More
用OpenVINO GenAI解鎖LoRA微調模型推論
8 月29

用OpenVINO GenAI解鎖LoRA微調模型推論

借助OpenVINO GenAI,你可以無縫整合 LoRA配接器,實現對大語言模型的快速個性化客製。開發者還可以一次性載入多個LoRA配接器,並在執行時快速切換,無需重新編譯基礎模型。

Read More
從工具到落地 OpenVINO引領多模態AI新時代
8 月28

從工具到落地 OpenVINO引領多模態AI新時代

2025年第二場OpenVINO DevCon線上講座,聚焦OpenVINO 2025.2最新版本的技術升級,並延伸至認知型AI與多模態RAG的應用場景,最後還邀請來自學界的專家分享了MLLM實際落地的案例。

Read More
在家造AI神器!OpenVINO讓桌面推論觸手可及
8 月19

在家造AI神器!OpenVINO讓桌面推論觸手可及

AI PC是一台配備專門用於加速AI工作負載硬體的電腦,意味著我們可以高效率地運作包含AI模型的應用程式;透過精選的軟硬體,筆者將證明幾乎任何類型的AI應用都可以在本地運作。

Read More