【文章討論】如何以OpenVINO在Intel GPU上執行Stable Diffusion?
You must be logged in to reply to this topic.
你知道OpenVINO也可以執行最夯的Stable Diffusion圖片生成模型,並且將該模型轉換為OpenVINO的IR(Intermediate Representation)格式,讓它在CPU與GPU上高效率執行嗎?可以的,上圖即是以OpenVINO在Intel GPU上執行Stable Diffusion圖生圖的範例,將照片轉成水彩畫。
此外透過壓縮FP32模型至FP16格式,OpenVINO能把模型尺寸縮小(接近)一半,用更少的RAM/VRAM容量來執行圖片的生成。更重要的是,因為Intel的XMX(Xe Matrix Extensions)脈動陣列發揮作用,這也能大幅加快GPU處理速度。
想了解更多,文章連結在此:
如何以OpenVINO在Intel GPU上執行Stable Diffusion
https://makerpro.cc/2023/03/how-to-run-stable-diffusion-on-intel-gpus-with-openvino/
關於本文章的進一步想法或問題,歡迎提出,共同探討交流~
》OpenVINO專欄
https://makerpro.cc/openvino-column/
酷!感謝大神分享好文,趕緊來拜讀!
You must be logged in to reply to this topic.
OpenVINO 交流社團是一個讓業界先進、AI 工程師、Maker 同好以及對於 OpenVINO 有興趣的夥伴共同交流的社團。有關 OpenVINO 使用心得分享及相關疑難雜症,都可以在本社團發文與切磋交流。