OpenVINO×ExecuTorch:解鎖英特爾架構AI PC模型推論效能新境界
在這篇深度解析技術文章,我們將探討ExecuTorch的OpenVINO後端——這是一種專為簡化異質運算複雜度而設計的解決方案,讓單一模型能智慧地運用CPU、GPU與NPU的專有功能,達到近乎原生的效能表現。
使用xG24無線SoC和Arduino開發板打造機器學習魔法棒
本文將展示如何使用Silicon Labs的xG24無線SoC開發套件與Arduino Nano Matter開發板平台,結合TensorFlow Lite Micro打造一個能夠辨識手勢的「魔法棒」裝置。
以MCU開啟Edge AI新境界:Renesas RA8P1實測
瑞薩RA8P1 MCU甫於今年七月初問世,為首款具備AI/ML推論應用的MCU,提供256 GOPS算力,宣告日後在MCU邊緣裝置上進行視覺AI推論搭配工業控制應用或HMI顯示介面也非難事。本文將使用Renesas RA8P1的開發板EK-RA8P1來進行實際測試評估。
讓生成式AI應用在Intel架構系統本地端高效率運作的訣竅
各種AI模型正進駐PC,而且它們變得更聰明、快速、強大;然而,仍會有一個問題:如何在不同的硬體加速器──例如英特爾的GPU或NPU──上讓模型發揮最佳效能?
加速英特爾GPU上的LLM:實用的動態量化指南
動態量化是一種強大的最佳化技術,能顯著提升Transformer模型在Intel GPU的性能,包括搭載於Lunar Lake、Arrow Lake處理器,配備XMX引擎的硬體,以及Alchemist、Battlemage等系列獨立顯卡。
【Arm的AI世界】GitHub與Arm為開發者徹底改變在Windows上的開發作業
GitHub與Arm緊密合作,致力於最佳化在Arm平台上開發的體驗,透過強化的工作流程,整合原生Arm runner、內建必要工具與函式庫的映像檔,以及GitHub Copilot Extensions,協助開發者運用AI加速開發。