認識IPEX-LLM：LLM模型最佳化的PyTorch工具

Posted By owenou on 5 月 9, 2025 in Intel, LLM, OpenVINO, PyTorch, 技術導讀

IPEX-LLM是英特爾為其 XPU（Xeon/Core/Flex/Arc/PVC）提出的低位元 LLM 開源（Apache 2.0授權）函式庫，是專為 PyTorch 生態打造的LLM執行擴充套件，具有廣泛的模型支援、低延遲和記憶體佔用小等優勢。