|
【開箱實測】OpenVINO榨出單板極限,實作離線LLM AI助理!
7 月25

【開箱實測】OpenVINO榨出單板極限,實作離線LLM AI助理!

在當前AI PC問世之際,相信不少人已知道OpenVINO可以加速離線大語言模型(LLM)的推論速度,本篇文章是要更進一步在資源更為受限的單板電腦上進行大語言模型的推論,甚至是實作一個離線大語言模型的AI助理出來!

Read More
利用OpenVINO以BLIP實現視覺語言邊緣AI部署
8 月31

利用OpenVINO以BLIP實現視覺語言邊緣AI部署

隨著電腦視覺和自然語言處理領域的快速發展,視覺與語言的融合越來越受到研究人員的重視。在這個背景下,BLIP引起了廣泛關注--該模型在大規模的影像文字資料集上預訓練深度神經網路模型,以提高下游視覺語言任務的性能,如影像文字檢索、影像描述和視覺問答。本文作者將帶領讀者一步步了解如何在研揚科技(AAEON)的新產品UP Squared Pro 7000 Edg上,利用OpenVINO來最佳化BLIP的推論加速。

Read More
【CIRCUS Pi】UP Squared Pro 7000 運行 OpenVINO Notebooks之AI效能評測
8 月31

【CIRCUS Pi】UP Squared Pro 7000 運行 OpenVINO Notebooks之AI效能評測

本文開箱測試研揚(AAEON)今年 2023 最新推出第三世代的 UP Squared PRO 7000,運行 OpenVINO Notebooks 測試 AI 運算的效能。

Read More
【CIRCUS Pi】AI 教學——實測 UP Squared Pro 7000 Edge 製作 AI 專案
8 月01

【CIRCUS Pi】AI 教學——實測 UP Squared Pro 7000 Edge 製作 AI 專案

習慣以筆電或桌機運行 Windows 的使用者在製作 AI 邊緣運算專案時,選擇同樣安裝Intel CPU的單板電腦能大幅度降低熟悉新系統的時間,而OpenVINO 2022.1出現更降低了Intel 執行 AI 推論的部屬與操作時間,本文將使用研揚的 UP Squared Pro 7000 Edge進行實測與教學。

Read More
不用買顯卡 OpenVINO 也能玩 Stable Diffusion V2!
6 月05

不用買顯卡 OpenVINO 也能玩 Stable Diffusion V2!

近期掀起的一陣AIGC浪潮讓ChatGPT大型語言模型、Midjourney與DALL-E等圖像生成模型備受關注,其中又以Stable Diffusion最受到社群熱烈討論,主要原因就是可以自行佈署與修改模型,可玩性與彈性相當大!本篇就要來介紹如何使用OpenVINO Notebooks來玩Stable Diffusion V2!

Read More
【OpenVINO™教學】運用UP Squared嵌入式開發板實現街景辨識
9 月03

【OpenVINO™教學】運用UP Squared嵌入式開發板實現街景辨識

本文將帶讀者在嵌入式控制板上面操作 OpenVINO,搭配 Movidius NCS2 使用 Tensorflow 物件辨識、圖片物件分類技術,並針對台灣路況即時影像(九份老街)進行街景識別。

Read More