輕鬆實現邊緣裝置即時異常檢測與LLM對話機器人
將 AI 模型部署在資源受限的邊緣裝置上，是許多開發者面臨的挑戰。在 2024 年 7 月 31 日舉辦的第五場OpenVINO DevCon 線上講座，來自Intel的專家楊亦誠與武卓以電腦視覺與異常檢測應用為例，讓聽眾了解如何使用開源Anomalib函式庫，透過不平衡資料集進行無監督學習，即時處理罕見異常，改善製造、醫療、農業等領域的品質控制；此外詳細介紹了OpenVINO 2024.2 版本新增加的 GenAI API 功能以及檢索增強生成(RAG)技術，如何以更簡化的流程在邊緣裝置部署能提供精準答案的 LLM 對話機器人(Chatbot)。