【活動報導】運用OpenVINO釋放AI PC創新威力！

Posted By MakerPRO編輯部 on 11 月 15, 2024 in AI PC, AIGC, Edge AI解決方案, Edge AI開發地圖, Intel, OpenVINO, OpenVINO專欄, OpenVINO活動報導, 活動報導 | 0 comments

文章導覽

2024年被稱為「AI PC元年」，在市面上已經看到不少結合了CPU、GPU與NPU三大引擎的高效能運算平台PC產品，為持續迅速發展的各種AI應用推波助瀾；在英特爾(Intel)攜手MakerPRO舉辦的第六場OpenVINO DevCon線上講座，就以「運用OpenVINO技術釋放AI PC的創新威力」為題，由Intel專家帶領聽眾深入了解AI PC的優勢與應用實例，並邀請到慈濟大學醫學資訊學系副教授李盛安，分享他以OpenVINO搭配AI PC平台實現AI健身輔助教練的開發經驗。

如同英特爾平台協理王宗業在開場時指出，無論是運用預測性AI或生成式AI模型，AI PC能讓開發者更輕鬆部署諸如會議摘要生成、聊天機器人、高解析度影像處理、文生圖、文生影像等等實用案例。英特爾最新推出的Core Ultra處理器結合CPU、GPU與NPU三大AI引擎，透過OpenVINO的深度最佳化與部署，可讓最終應用實現性能與功耗的完美平衡：CPU適合低延遲AI工作負載，GPU則擅長影像生成與內容創作，NPU則是專為高密度矩陣運算與生成式AI設計；這些硬體特性能支援包括語音轉文字、背景虛化、Pose Estimation等在內的500多種AI模型應用場景。

AI PC能支援各種生成式/預測性AI應用場景。

英特爾OpenVINO傳教士武卓與AI軟體工程師楊亦誠在講座中介紹了英特爾新一代處理器Core Ultra 2000V系列處理器(代號Lunar Lake)的架構與性能升級，包括效能核心(P-core)與效率核心(E-core)分別有14%與68%的性能提升，可全面支援生成式AI運作需求。兩位講者還特別提到多模態AI模型的實力與應用，如LLaVA (Large Language and Vision Assistant)模型結合文字與影像輸入，能進行多輪對話，適用於客服與內容生成。而利用OpenVINO最新版本的GenAI API能進一步簡化這類模型的開發與部署，支持開發者快速實現模型轉換、壓縮與推理，讓高效能AI應用成為可能。

OpenVINO助力智慧健身與姿態辨識應用

接下來慈濟大學醫學資訊學系副教授李盛安分享了如何利用AI PC結合OpenVINO技術，實現高效的姿態模型運行與性能優化，在智慧健身創新應用領域發揮強大效能。他在演講中詳細介紹了姿態辨識模型的部署流程，包括模型選擇、格式轉換、精度調整、硬體測試與部署集成。透過OpenVINO的Model Optimizer工具，開發者能將TensorFlow、PyTorch等常見框架的模型轉為IR格式，並透過FP16及INT8等混合精度運算優化性能。實驗顯示，在英特爾的AI PC架構上，GPU、NPU和CPU各自擁有顯著的性能表現，尤其是GPU的處理速度達到NPU的5.6倍以上，適合高效應用場景。

李盛安指出，經過OpenVINO優化後的模型，即使在缺乏高性能硬體的環境中，也能取得穩定且令人滿意的運作效果，特別是針對教育與實驗室需求的課堂落地應用。在慈濟大學的智慧健身專案中，研究團隊則是將OpenVINO的姿態辨識模型應用於健身房，實現即時動作監測與姿勢評估；結合MoveNet與YOLOv8-Pose等多模態模型，系統可透過攝影機捕捉使用者的動作並即時分析姿勢角度，例如深蹲時膝蓋的正確角度，從而提供可視化的矯正建議。他特別強調，AI PC架構為智慧健身解決了運算延遲和模型最佳化的挑戰，透過與NPU、GPU的協同運算，該系統在保持精度的同時提升運作效率，實現了每秒近200幀的運算能力；這不僅提升了使用者體驗，也大幅降低了智慧健身場域的技術門檻。

從教育課堂到智慧場域，OpenVINO技術正逐步推動AI應用的普及化與多元化，為智慧健身、動作捕捉與生成式AI開發提供了全新視角與實踐機會。未來，AI PC勢必在更多產業與場景中發揮重要作用，開啟智慧生活的新篇章，實現AI無所不在的願景。