OpenVINO全新GenAI API:幾行程式碼就能快速建立GenAI App!
全新的OpenVINO GenAI API為開發者提供了更簡單與清晰的程式碼;這意味著除了提供電腦視覺、AI加速與最佳化程式庫,OpenVINO現在也是開發者實現GenAI應用的助力。
輕鬆實現邊緣裝置即時異常檢測與LLM對話機器人
將 AI 模型部署在資源受限的邊緣裝置上,是許多開發者面臨的挑戰。在 2024 年 7 月 31 日舉辦的第五場OpenVINO DevCon 線上講座,來自Intel的專家楊亦誠與武卓以電腦視覺與異常檢測應用為例,讓聽眾了解如何使用開源Anomalib函式庫,透過不平衡資料集進行無監督學習,即時處理罕見異常,改善製造、醫療、農業等領域的品質控制;此外詳細介紹了OpenVINO 2024.2 版本新增加的 GenAI API 功能以及檢索增強生成(RAG)技術,如何以更簡化的流程在邊緣裝置部署能提供精準答案的 LLM 對話機器人(Chatbot)。
OpenVINO 2024.2姿態模型效能評估:以OpenPose、YOLOv8與3D-Pose為例
本文主要於ASRock NUC BOX-155H平台進行,使用Intel Core Ultra運作的NUC (下一代計算單元)。我們將姿態辨識模型OpenPose、3D Pose、MoveNet 與 YOLOv8 模型轉換為OpenVINO IR模型格式,分別在CPU、iGPU及NPU上進行部署。觀察這些模型在CPU、iGPU及NPU的硬體效能差異,透過實際執行影片推論的過程,觀察NPU的性能表現。
【開箱實測】OpenVINO榨出單板極限,實作離線LLM AI助理!
在當前AI PC問世之際,相信不少人已知道OpenVINO可以加速離線大語言模型(LLM)的推論速度,本篇文章是要更進一步在資源更為受限的單板電腦上進行大語言模型的推論,甚至是實作一個離線大語言模型的AI助理出來!
【2024 MAI Talks】健身設備運動姿態AI評估系統
在這場分享中,李盛安老師深入介紹了其最近投入的AI產學合作開發專案:「健身設備運動姿態AI評估系統」,此系統利用人工智能技術,提升健身器材的運動效果並防止運動傷害。
AI加速產業轉型 專家剖析關鍵技術趨勢
在由Intel代理商夥伴建智(Sertek)主辦的「產業AI轉型關鍵技術論壇」上,邀請到了來自產業界、開發社群與學界的專家分享最新AI PC技術趨勢,以及使用OpenVINO開放性工具平台在AI PC上輕鬆部署創新邊緣應用的實際案例,讓與會者親眼見識到AI PC的威力所在,也對於AI軟硬體新科技能帶來的效益更具信心。