|
運用Qualcomm AI Hub結合WoS打造低功耗高效能推論平台
8 月01

運用Qualcomm AI Hub結合WoS打造低功耗高效能推論平台

本篇筆者將以實作的方式操作AI Hub,並將最佳化的模型部署在Windows on Snapdragon AI PC上運行,體驗如何在短時間內完成AI應用的展示與評估。

Read More
【CAVEDU講堂】NVIDIA Jetson AI Lab 大解密!範例與系統需求介紹
10 月08

【CAVEDU講堂】NVIDIA Jetson AI Lab 大解密!範例與系統需求介紹

本文將按照2024年7月的更新進度,詳細介紹 NVIDIA Jetson AI Lab 各範例的功能與系統需求,將協助於讀者了解哪些裝置和 JetPack 版本適合所需的範例,更順利地使用 NVIDIA Jetson AI Lab 。

Read More
【開箱評測】探索未來:結合迷你PC與生成式AI的個人多媒體助理
9 月24

【開箱評測】探索未來:結合迷你PC與生成式AI的個人多媒體助理

以mini PC作為多媒體AI個人助理的應用,展現了AI技術日益貼近日常生活的趨勢,未來這類設備將在提升個人生活品質和工作效率方面扮演越來越重要的角色,而本文將分析NUC BOX-155H這台mini PC在多媒體處理上的效能,並且分享一個未來十分看好、能成為個人多媒體助理的AI模型:Stable Diffusion及其多個版本的發展與應用選擇。

Read More
OpenVINO 2024.2姿態模型效能評估:以OpenPose、YOLOv8與3D-Pose為例
8 月05

OpenVINO 2024.2姿態模型效能評估:以OpenPose、YOLOv8與3D-Pose為例

本文主要於ASRock NUC BOX-155H平台進行,使用Intel Core Ultra運作的NUC (下一代計算單元)。我們將姿態辨識模型OpenPose、3D Pose、MoveNet 與 YOLOv8 模型轉換為OpenVINO IR模型格式,分別在CPU、iGPU及NPU上進行部署。觀察這些模型在CPU、iGPU及NPU的硬體效能差異,透過實際執行影片推論的過程,觀察NPU的性能表現。

Read More
【CIRCUS Pi】Seeed Studio XIAO ESP32-S3 Sense-ESP32CAM 進化版?
12 月28

【CIRCUS Pi】Seeed Studio XIAO ESP32-S3 Sense-ESP32CAM 進化版?

ESP32S3 Sense 是 XIAO 家族系列最新的開發板,同時在這塊板子上也有不少突破點,除了搭載了新的核心 ESP32S3 之外,還使用了板對板連接器使其可以在維持相同面積的 PCB 條件下,擴充了 IO 的數量與功能。

Read More
活用IPEX和Intel GPU加速大型語言模型訓練效率
12 月05

活用IPEX和Intel GPU加速大型語言模型訓練效率

以IPEX (Intel-Extension-for-PyTorch)搭配Intel硬體產品,可提供最佳化功能大幅提升運作效能。例如透過PyTorch的裝置來發揮Intel GPU的潛能,加速AI模型的訓練和推論。本篇文章將說明如何善用上述兩項產品來實現效能的大幅提升,仍然以微調訓練的範例來展現它們的特性,並說明其使用方法和流程。

Read More