|
用Llama 2和OpenVINO打造聊天機器人
8 月25

用Llama 2和OpenVINO打造聊天機器人

Meta終於推出了免費商用版本Llama 2,藉著這個機會,我們來分享一下如何用Llama 2和OpenVINO工具套件來打造一款聊天機器人。

Read More
免「仲介」 OpenVINO能直接支援PyTorch模型物件!
8 月04

免「仲介」 OpenVINO能直接支援PyTorch模型物件!

隨著OpenVINO 2023.0版本的發佈,OpenVINO工具庫中預置了全新的PyTorch前端,為開發者們提供了一條全新的PyTorch模型支援路徑,帶來更友好的用戶體驗—— OpenVINO的mo工具可以直接將PyTorch模型物件轉化為OpenVINO的模型物件,開發者可以不需要將ONNX模型作為中間過渡。

Read More
【CIRCUS Pi】AI 教學——實測 UP Squared Pro 7000 Edge 製作 AI 專案
8 月01

【CIRCUS Pi】AI 教學——實測 UP Squared Pro 7000 Edge 製作 AI 專案

習慣以筆電或桌機運行 Windows 的使用者在製作 AI 邊緣運算專案時,選擇同樣安裝Intel CPU的單板電腦能大幅度降低熟悉新系統的時間,而OpenVINO 2022.1出現更降低了Intel 執行 AI 推論的部屬與操作時間,本文將使用研揚的 UP Squared Pro 7000 Edge進行實測與教學。

Read More
【活動報導】聚焦新版OpenVINO Intel全球技術專家分享最新AI開發趨勢
7 月31

【活動報導】聚焦新版OpenVINO Intel全球技術專家分享最新AI開發趨勢

英特爾舉辦的2023年首場DevCon系列線上講座,由重量級講者與近300位聽眾分享過去五年來OpenVINO團隊持續推動技術進展以及擁抱開源的理念,並介紹2023.0版本OpenVINO的技術亮點,及如何利用該工具套件加速部署當前最夯的生成式AI模型,實現高性能推論應用。

Read More
迎接AI時代 用最AI的方式學習AI
7 月10

迎接AI時代 用最AI的方式學習AI

在多年前將Arduino開發板導入台灣市場、引領Maker年代的PlayRobot,以Intel所開發的開放性深度學習推論應用工具套件OpenVINO做為媒介,設計結合動手實作與理論的教學課程,期望能讓完全不懂AI的新手、或是跨領域的學習者,都能輕鬆進入AI世界。

Read More
【開箱評測】OpenVINO讓你不上網也能和Dolly聊聊天
7 月04

【開箱評測】OpenVINO讓你不上網也能和Dolly聊聊天

以往在AI模型部署優化及推論部份,通常都會想到使用 Intel OpenVINO,不過大家多半只注意到它在「電腦視覺」相關的應用,殊不知自從2022.1版後就已開始加入許多「自然語言」的範例。而最近2023.0版又更加強GPU處理記憶體動態外形(Dynamic Shape)的能力,使得如生成型預訓練變換模型(GPT)這類基於轉換器(Transfomer)技術的大型語言模型能得到更好的實現。

Read More