|
用Llama 2和OpenVINO打造聊天機器人
8 月25

用Llama 2和OpenVINO打造聊天機器人

Meta終於推出了免費商用版本Llama 2,藉著這個機會,我們來分享一下如何用Llama 2和OpenVINO工具套件來打造一款聊天機器人。

Read More
【CAVEDU講堂】如何將Jetson Nano透過網路線固定IP連線
8 月21

【CAVEDU講堂】如何將Jetson Nano透過網路線固定IP連線

本文將介紹如何在常用於機器學習和人工智慧開發的Jetson Nano單板電腦上,設定有線固定內網伺服器和DHCP,以便在內部網路中輕鬆連接和管理。

Read More
免「仲介」 OpenVINO能直接支援PyTorch模型物件!
8 月04

免「仲介」 OpenVINO能直接支援PyTorch模型物件!

隨著OpenVINO 2023.0版本的發佈,OpenVINO工具庫中預置了全新的PyTorch前端,為開發者們提供了一條全新的PyTorch模型支援路徑,帶來更友好的用戶體驗—— OpenVINO的mo工具可以直接將PyTorch模型物件轉化為OpenVINO的模型物件,開發者可以不需要將ONNX模型作為中間過渡。

Read More
【CIRCUS Pi】AI 教學——實測 UP Squared Pro 7000 Edge 製作 AI 專案
8 月01

【CIRCUS Pi】AI 教學——實測 UP Squared Pro 7000 Edge 製作 AI 專案

習慣以筆電或桌機運行 Windows 的使用者在製作 AI 邊緣運算專案時,選擇同樣安裝Intel CPU的單板電腦能大幅度降低熟悉新系統的時間,而OpenVINO 2022.1出現更降低了Intel 執行 AI 推論的部屬與操作時間,本文將使用研揚的 UP Squared Pro 7000 Edge進行實測與教學。

Read More
闡述Stable Diffusion繪圖AI的架構知識 (上): 細說Encoder
7 月11

闡述Stable Diffusion繪圖AI的架構知識 (上): 細說Encoder

SD(Stable Diffusion)是當今頂級的Text-to-Image的繪畫技術,本文將介紹其中的重要觀念:負責嵌入的模型(Encoder)及負責生成的核心模型(Decoder) 。

Read More
【開箱評測】OpenVINO讓你不上網也能和Dolly聊聊天
7 月04

【開箱評測】OpenVINO讓你不上網也能和Dolly聊聊天

以往在AI模型部署優化及推論部份,通常都會想到使用 Intel OpenVINO,不過大家多半只注意到它在「電腦視覺」相關的應用,殊不知自從2022.1版後就已開始加入許多「自然語言」的範例。而最近2023.0版又更加強GPU處理記憶體動態外形(Dynamic Shape)的能力,使得如生成型預訓練變換模型(GPT)這類基於轉換器(Transfomer)技術的大型語言模型能得到更好的實現。

Read More