|

如何以OpenVINO在Intel GPU上執行Stable Diffusion

   
作者:Raymond Lo

在OpenVINO Notebooks有不少AI案例,但你知道我們也可以執行最夯的Stable Diffusion圖片生成模型,並且將該模型轉換為OpenVINO的IR(Intermediate Representation)格式,讓它在CPU與GPU上高效率執行嗎?此外透過壓縮FP32模型至FP16格式,我們能把模型尺寸縮小(接近)一半,用更少的RAM/VRAM容量來執行。更重要的是,因為Intel的XMX(Xe Matrix Extensions)脈動陣列發揮作用,這也能大幅加快GPU處理速度。

以下是筆者用筆記型電腦執行的結果,非常有趣。用我的Intel Arc A770獨立顯示晶片,能取得大約每秒6.0次迭代(iterations,在沒有除錯模式的情況下)。這意味生成下方的高品質影像,通常只花不到10秒的時間。

本文為會員限定文章

立即加入會員! 全站文章無限看~

                               

已經是會員? 按此登入

只需不到短短一分鐘...

輸入您的信箱與ID註冊即可享有一切福利!

會員福利
1

免費電子報

2

會員搶先看

3

主題訂閱

4

好文收藏

Raymond Lo

Author: Raymond Lo

現任OpenVINO 邊緣AI 軟體傳教士。加入Intel 之前,Raymond創立了由 Y Combinator 支持的擴增實境 (AR)公司 Meta並擔任首席技術官,擁有許多AR 眼鏡發明和功能原型。他也擔任過三星 NEXT 的技術傳教士以及谷歌雲 AI 的技術解決方案顧問。Raymond將創業精神和實務經驗結合,將全球數百家初創公司與數千名開發人員聯繫在一起。

Share This Post On

Submit a Comment

發佈留言必須填寫的電子郵件地址不會公開。 必填欄位標示為 *