用Llama 2和OpenVINO打造聊天機器人
Meta終於推出了免費商用版本Llama 2,藉著這個機會,我們來分享一下如何用Llama 2和OpenVINO工具套件來打造一款聊天機器人。
免「仲介」 OpenVINO能直接支援PyTorch模型物件!
隨著OpenVINO 2023.0版本的發佈,OpenVINO工具庫中預置了全新的PyTorch前端,為開發者們提供了一條全新的PyTorch模型支援路徑,帶來更友好的用戶體驗—— OpenVINO的mo工具可以直接將PyTorch模型物件轉化為OpenVINO的模型物件,開發者可以不需要將ONNX模型作為中間過渡。
【CIRCUS Pi】AI 教學——實測 UP Squared Pro 7000 Edge 製作 AI 專案
習慣以筆電或桌機運行 Windows 的使用者在製作 AI 邊緣運算專案時,選擇同樣安裝Intel CPU的單板電腦能大幅度降低熟悉新系統的時間,而OpenVINO 2022.1出現更降低了Intel 執行 AI 推論的部屬與操作時間,本文將使用研揚的 UP Squared Pro 7000 Edge進行實測與教學。
【活動報導】聚焦新版OpenVINO Intel全球技術專家分享最新AI開發趨勢
英特爾舉辦的2023年首場DevCon系列線上講座,由重量級講者與近300位聽眾分享過去五年來OpenVINO團隊持續推動技術進展以及擁抱開源的理念,並介紹2023.0版本OpenVINO的技術亮點,及如何利用該工具套件加速部署當前最夯的生成式AI模型,實現高性能推論應用。
迎接AI時代 用最AI的方式學習AI
在多年前將Arduino開發板導入台灣市場、引領Maker年代的PlayRobot,以Intel所開發的開放性深度學習推論應用工具套件OpenVINO做為媒介,設計結合動手實作與理論的教學課程,期望能讓完全不懂AI的新手、或是跨領域的學習者,都能輕鬆進入AI世界。
【開箱評測】OpenVINO讓你不上網也能和Dolly聊聊天
以往在AI模型部署優化及推論部份,通常都會想到使用 Intel OpenVINO,不過大家多半只注意到它在「電腦視覺」相關的應用,殊不知自從2022.1版後就已開始加入許多「自然語言」的範例。而最近2023.0版又更加強GPU處理記憶體動態外形(Dynamic Shape)的能力,使得如生成型預訓練變換模型(GPT)這類基於轉換器(Transfomer)技術的大型語言模型能得到更好的實現。