輕鬆實現邊緣裝置即時異常檢測與LLM對話機器人
將 AI 模型部署在資源受限的邊緣裝置上，是許多開發者面臨的挑戰。在 2024 年 7 月 31 日舉辦的第五場OpenVINO DevCon 線上講座，來自Intel的專家楊亦誠與武卓以電腦視覺與異常檢測應用為例，讓聽眾了解如何使用開源Anomalib函式庫，透過不平衡資料集進行無監督學習，即時處理罕見異常，改善製造、醫療、農業等領域的品質控制；此外詳細介紹了OpenVINO 2024.2 版本新增加的 GenAI API 功能以及檢索增強生成(RAG)技術，如何以更簡化的流程在邊緣裝置部署能提供精準答案的 LLM 對話機器人(Chatbot)。
OpenVINO 2024.2姿態模型效能評估：以OpenPose、YOLOv8與3D-Pose為例
本文主要於ASRock NUC BOX-155H平台進行，使用Intel Core Ultra運作的NUC (下一代計算單元)。我們將姿態辨識模型OpenPose、3D Pose、MoveNet 與 YOLOv8 模型轉換為OpenVINO IR模型格式，分別在CPU、iGPU及NPU上進行部署。觀察這些模型在CPU、iGPU及NPU的硬體效能差異，透過實際執行影片推論的過程，觀察NPU的性能表現。
【開箱實測】OpenVINO榨出單板極限，實作離線LLM AI助理！
在當前AI PC問世之際，相信不少人已知道OpenVINO可以加速離線大語言模型(LLM)的推論速度，本篇文章是要更進一步在資源更為受限的單板電腦上進行大語言模型的推論，甚至是實作一個離線大語言模型的AI助理出來！
【2024 MAI Talks】健身設備運動姿態AI評估系統
在這場分享中，李盛安老師深入介紹了其最近投入的AI產學合作開發專案：「健身設備運動姿態AI評估系統」，此系統利用人工智能技術，提升健身器材的運動效果並防止運動傷害。
瑞薩推免費版Reality AI讓開發者體驗其功能
為了讓開發者親自體驗Reality AI Tools軟體工具套件的功能，Renesas宣佈提供免費版本Reality AI Explorer Tier，可用於開發針對工業、汽車和商業應用的AI和TinyML解決方案。
Edge AI實現快速準確、保障資安的醫療影像分析
AI和醫療診斷的結合已經成為重要的研究和應用方向，透過機器學習與演算法，AI可以分析資料包括影像、遺傳資訊和患者記錄等大量資料，幫助醫療人員更快更準確地診斷疾病並預測結果。一位工程師David Tischler使用BrainChip的神經形態處理器和Edge Impulse平台開發了一個概念驗證系統，能夠在低功耗條件下高效率分析X光片影像，並從中分辨出肺炎的X光片…
0514邊緣系統VLM視覺理解推論實作工作坊
