瑞薩RA8P1 MCU甫於今年七月初問世，為首款具備AI/ML推論應用的MCU，提供256 GOPS算力，宣告日後在MCU邊緣裝置上進行視覺AI推論搭配工業控制應用或HMI顯示介面也非難事。本文將使用Renesas RA8P1的開發板EK-RA8P1來進行實際測試評估。

筆者在前一篇文章介紹了如何使用Qualcomm AI Hub來快速地在Windows on Snapdragon (WoS)完成AI應用的部署，然而身為被認證為Copilot+ PC的成員，要能順暢運作本地端生成式AI模型及開發衍生應用才是其最重要的主戰場！本篇文章將會介紹幾種不同的方法在WoS實現本地端生成式AI模型的運作。

本篇筆者將以實作的方式操作AI Hub，並將最佳化的模型部署在Windows on Snapdragon AI PC上運行，體驗如何在短時間內完成AI應用的展示與評估。

在當前AI PC問世之際，相信不少人已知道OpenVINO可以加速離線大語言模型(LLM)的推論速度，本篇文章是要更進一步在資源更為受限的單板電腦上進行大語言模型的推論，甚至是實作一個離線大語言模型的AI助理出來！

日前 Seeed Studio 推出相同核心的 Grove Vision AI 智慧鏡頭模組，筆者便以行動支持國產晶片入手一片進行測試！本篇文章會介紹如何透過 Grove Vision AI 使Arduino也能玩轉YOLO 模型！