利用OpenVINO以BLIP實現視覺語言邊緣AI部署
隨著電腦視覺和自然語言處理領域的快速發展,視覺與語言的融合越來越受到研究人員的重視。在這個背景下,BLIP引起了廣泛關注--該模型在大規模的影像文字資料集上預訓練深度神經網路模型,以提高下游視覺語言任務的性能,如影像文字檢索、影像描述和視覺問答。本文作者將帶領讀者一步步了解如何在研揚科技(AAEON)的新產品UP Squared Pro 7000 Edg上,利用OpenVINO來最佳化BLIP的推論加速。
【Edge AI專欄】 親愛的我把AI模型縮小了- 模型減量與壓縮技術簡介
雖然我們難以像蟻人或黃蜂女一樣把自己縮小而保持生理機能不變,但把超巨大的AI模型縮小而保持推論精度不變,還是有很多方法可以達到的。接下來我們就來幫大家簡單介紹一下幾種常見技術。
用Llama 2和OpenVINO打造聊天機器人
Meta終於推出了免費商用版本Llama 2,藉著這個機會,我們來分享一下如何用Llama 2和OpenVINO工具套件來打造一款聊天機器人。
【CAVEDU講堂】如何將Jetson Nano透過網路線固定IP連線
本文將介紹如何在常用於機器學習和人工智慧開發的Jetson Nano單板電腦上,設定有線固定內網伺服器和DHCP,以便在內部網路中輕鬆連接和管理。
免「仲介」 OpenVINO能直接支援PyTorch模型物件!
隨著OpenVINO 2023.0版本的發佈,OpenVINO工具庫中預置了全新的PyTorch前端,為開發者們提供了一條全新的PyTorch模型支援路徑,帶來更友好的用戶體驗—— OpenVINO的mo工具可以直接將PyTorch模型物件轉化為OpenVINO的模型物件,開發者可以不需要將ONNX模型作為中間過渡。
【CIRCUS Pi】AI 教學——實測 UP Squared Pro 7000 Edge 製作 AI 專案
習慣以筆電或桌機運行 Windows 的使用者在製作 AI 邊緣運算專案時,選擇同樣安裝Intel CPU的單板電腦能大幅度降低熟悉新系統的時間,而OpenVINO 2022.1出現更降低了Intel 執行 AI 推論的部屬與操作時間,本文將使用研揚的 UP Squared Pro 7000 Edge進行實測與教學。