|
OpenVINO 2023.2版本發佈:讓生成式AI在實際場景中更易用
11 月22

OpenVINO 2023.2版本發佈:讓生成式AI在實際場景中更易用

OpenVINO發佈最新2023.2版本了!與之前的版本一樣,在提高性能、增加對新AI模型的支援,以及構建基礎設施和模型快取等不同元件方面都有重大改進,除了並導入在CPU和整合顯卡上運作權重量化為int8和int4精度的LLM的能力,也更新了模型轉換和最佳化工具;OpenVINO產品架構師Yury Gorbachev將在本文詳細介紹新版本的優勢。

Read More
一步到位:利用OpenVINO實現LCM高速影像生成
11 月17

一步到位:利用OpenVINO實現LCM高速影像生成

最近橫空出世的潛在一致性模型(LCM)讓文生圖模型的圖片急速生成變成可能。LCM可以在任何預訓練的潛在擴散模型上進行快速推斷、步驟最少,包括穩定擴散模型(Stable Diffusion)。用OpenVINO也能對充滿魔力的LCM文生圖模型進行完全的最佳化、壓縮以及推理加速、快速部署的支援!

Read More
OpenVINO 2023.1版本問世: 在邊緣端賦能生成式AI
10 月13

OpenVINO 2023.1版本問世: 在邊緣端賦能生成式AI

OpenVINO  2023.1版本希望將生成式 AI 的強大功能導入常規桌上型電腦和筆記型電腦,讓這些模型可以在資源受限的本地環境中運作`在整個產品中針對這些場景進行了最佳化,實現了一些關鍵功能,並為我們的下一步工作計畫奠定了基礎。也就是說,我們的變化不僅限於生成式AI,我們還改進了產品的其他部分。以下讓我們來看看這些變化到底是什麼。

Read More
利用OpenVINO以BLIP實現視覺語言邊緣AI部署
8 月31

利用OpenVINO以BLIP實現視覺語言邊緣AI部署

隨著電腦視覺和自然語言處理領域的快速發展,視覺與語言的融合越來越受到研究人員的重視。在這個背景下,BLIP引起了廣泛關注--該模型在大規模的影像文字資料集上預訓練深度神經網路模型,以提高下游視覺語言任務的性能,如影像文字檢索、影像描述和視覺問答。本文作者將帶領讀者一步步了解如何在研揚科技(AAEON)的新產品UP Squared Pro 7000 Edg上,利用OpenVINO來最佳化BLIP的推論加速。

Read More
用Llama 2和OpenVINO打造聊天機器人
8 月25

用Llama 2和OpenVINO打造聊天機器人

Meta終於推出了免費商用版本Llama 2,藉著這個機會,我們來分享一下如何用Llama 2和OpenVINO工具套件來打造一款聊天機器人。

Read More
最新版OpenVINO 2023.0問世:更輕鬆部署、加速AI應用!
6 月14

最新版OpenVINO 2023.0問世:更輕鬆部署、加速AI應用!

OpenVINO 五週年紀念日即將來臨的此刻,我們很興奮地宣佈OpenVINO最新版本──OpenVINO 2023.0問世!新版本的重點是透過最大限度減少離線轉換、擴大模型支援和推進硬體最佳化來改善開發者之旅,以下讓我們對一些新功能進行深入研究…

Read More