【CIRCUS Pi】AI 教學——實測 UP Squared Pro 7000 Edge 製作 AI 專案
習慣以筆電或桌機運行 Windows 的使用者在製作 AI 邊緣運算專案時,選擇同樣安裝Intel CPU的單板電腦能大幅度降低熟悉新系統的時間,而OpenVINO 2022.1出現更降低了Intel 執行 AI 推論的部屬與操作時間,本文將使用研揚的 UP Squared Pro 7000 Edge進行實測與教學。
【活動報導】聚焦新版OpenVINO Intel全球技術專家分享最新AI開發趨勢
英特爾舉辦的2023年首場DevCon系列線上講座,由重量級講者與近300位聽眾分享過去五年來OpenVINO團隊持續推動技術進展以及擁抱開源的理念,並介紹2023.0版本OpenVINO的技術亮點,及如何利用該工具套件加速部署當前最夯的生成式AI模型,實現高性能推論應用。
迎接AI時代 用最AI的方式學習AI
在多年前將Arduino開發板導入台灣市場、引領Maker年代的PlayRobot,以Intel所開發的開放性深度學習推論應用工具套件OpenVINO做為媒介,設計結合動手實作與理論的教學課程,期望能讓完全不懂AI的新手、或是跨領域的學習者,都能輕鬆進入AI世界。
【開箱評測】OpenVINO讓你不上網也能和Dolly聊聊天
以往在AI模型部署優化及推論部份,通常都會想到使用 Intel OpenVINO,不過大家多半只注意到它在「電腦視覺」相關的應用,殊不知自從2022.1版後就已開始加入許多「自然語言」的範例。而最近2023.0版又更加強GPU處理記憶體動態外形(Dynamic Shape)的能力,使得如生成型預訓練變換模型(GPT)這類基於轉換器(Transfomer)技術的大型語言模型能得到更好的實現。
利用OpenVINO部署HuggingFace預訓練模型的方法與技巧
透過HuggingFace開源的Transformers、Diffusers程式庫,只需要要調用少量介面函數,入門開發者也可以非常便捷地微調和部署自己的大模型任務,你甚至不需要知道什麼是GPT、BERT就可以用它們的模型,開發者不需要從頭開始構建模型任務,大幅簡化了工作流程。
最新版OpenVINO 2023.0問世:更輕鬆部署、加速AI應用!
OpenVINO 五週年紀念日即將來臨的此刻,我們很興奮地宣佈OpenVINO最新版本──OpenVINO 2023.0問世!新版本的重點是透過最大限度減少離線轉換、擴大模型支援和推進硬體最佳化來改善開發者之旅,以下讓我們對一些新功能進行深入研究…