【文章討論】如何以OpenVINO在Intel GPU上執行Stable Diffusion？

正在檢視 1 則發表的回覆
  • 作者
    文章
    • 9 4 月, 2023 11:23 上午 #11260
      Owen Ou
      管理員

      null

      你知道OpenVINO也可以執行最夯的Stable Diffusion圖片生成模型，並且將該模型轉換為OpenVINO的IR（Intermediate Representation）格式，讓它在CPU與GPU上高效率執行嗎？可以的，上圖即是以OpenVINO在Intel GPU上執行Stable Diffusion圖生圖的範例，將照片轉成水彩畫。

      此外透過壓縮FP32模型至FP16格式，OpenVINO能把模型尺寸縮小（接近）一半，用更少的RAM/VRAM容量來執行圖片的生成。更重要的是，因為Intel的XMX（Xe Matrix Extensions）脈動陣列發揮作用，這也能大幅加快GPU處理速度。

      想了解更多，文章連結在此：
      如何以OpenVINO在Intel GPU上執行Stable Diffusion
      https://makerpro.cc/2023/03/how-to-run-stable-diffusion-on-intel-gpus-with-openvino/

      關於本文章的進一步想法或問題，歡迎提出，共同探討交流～

      》OpenVINO專欄
      https://makerpro.cc/openvino-column/

      • 該主題由 Owen Ou 於 2 years, 11 months ago 修改。
    • 9 4 月, 2023 11:38 上午 #11262
      Joanna Liang
      參與者

      酷！感謝大神分享好文，趕緊來拜讀！

  • 作者
    文章
正在檢視 1 則發表的回覆
  • 抱歉，回覆主題必需先登入。