OpenVINO 2023.1版本問世: 在邊緣端賦能生成式AI
OpenVINO 2023.1版本希望將生成式 AI 的強大功能導入常規桌上型電腦和筆記型電腦，讓這些模型可以在資源受限的本地環境中運作`在整個產品中針對這些場景進行了最佳化，實現了一些關鍵功能，並為我們的下一步工作計畫奠定了基礎。也就是說，我們的變化不僅限於生成式AI，我們還改進了產品的其他部分。以下讓我們來看看這些變化到底是什麼。
以AI進行無人機巡檢河川地貌分析
由於工業科技快速發展，環境議題一直備受討論與重視；近幾年，由於邊緣運算、AI、硬體加速與無人機等技術趨於成熟，公民營機構－－尤以公部門為首－－開始思考是否能借助科技的力量來進行環境工程，本文即以AI物件分割技術作為技術基礎，配合台中市環保局河川揚塵防治計畫進行河床地貌影像分割。
利用OpenVINO以BLIP實現視覺語言邊緣AI部署
隨著電腦視覺和自然語言處理領域的快速發展，視覺與語言的融合越來越受到研究人員的重視。在這個背景下，BLIP引起了廣泛關注－－該模型在大規模的影像文字資料集上預訓練深度神經網路模型，以提高下游視覺語言任務的性能，如影像文字檢索、影像描述和視覺問答。本文作者將帶領讀者一步步了解如何在研揚科技(AAEON)的新產品UP Squared Pro 7000 Edg上，利用OpenVINO來最佳化BLIP的推論加速。
用Llama 2和OpenVINO打造聊天機器人
Meta終於推出了免費商用版本Llama 2，藉著這個機會，我們來分享一下如何用Llama 2和OpenVINO工具套件來打造一款聊天機器人。
免「仲介」 OpenVINO能直接支援PyTorch模型物件！
隨著OpenVINO 2023.0版本的發佈，OpenVINO工具庫中預置了全新的PyTorch前端，為開發者們提供了一條全新的PyTorch模型支援路徑，帶來更友好的用戶體驗—— OpenVINO的mo工具可以直接將PyTorch模型物件轉化為OpenVINO的模型物件，開發者可以不需要將ONNX模型作為中間過渡。
【開箱評測】OpenVINO讓你不上網也能和Dolly聊聊天
以往在AI模型部署優化及推論部份，通常都會想到使用 Intel OpenVINO，不過大家多半只注意到它在「電腦視覺」相關的應用，殊不知自從2022.1版後就已開始加入許多「自然語言」的範例。而最近2023.0版又更加強GPU處理記憶體動態外形(Dynamic Shape)的能力，使得如生成型預訓練變換模型(GPT)這類基於轉換器(Transfomer)技術的大型語言模型能得到更好的實現。
0514邊緣系統VLM視覺理解推論實作工作坊
