|
【Arm的AI世界】Python在Arm平台上的應用
9 月04

【Arm的AI世界】Python在Arm平台上的應用

這篇文章將概述Python在Arm平台上--主要是在Linux與Windows作業系統上--的應用。Python程式語言通用性極高、相當受歡迎,可用在不同的環境中…

Read More
LLM性能再強化 OpenVINO 2024.3隆重發佈!
8 月21

LLM性能再強化 OpenVINO 2024.3隆重發佈!

OpenVINO 2024.3版本現在已經正式推出!這次更新帶來了新的功能,並對現有功能進行了強化,特別是大型語言模型(LLM)的性能;本文將介紹此新版本的關鍵進展。

Read More
OpenVINO全新GenAI API:幾行程式碼就能快速建立GenAI App!
8 月14

OpenVINO全新GenAI API:幾行程式碼就能快速建立GenAI App!

全新的OpenVINO GenAI API為開發者提供了更簡單與清晰的程式碼;這意味著除了提供電腦視覺、AI加速與最佳化程式庫,OpenVINO現在也是開發者實現GenAI應用的助力。

Read More
OpenVINO 2024.2姿態模型效能評估:以OpenPose、YOLOv8與3D-Pose為例
8 月05

OpenVINO 2024.2姿態模型效能評估:以OpenPose、YOLOv8與3D-Pose為例

本文主要於ASRock NUC BOX-155H平台進行,使用Intel Core Ultra運作的NUC (下一代計算單元)。我們將姿態辨識模型OpenPose、3D Pose、MoveNet 與 YOLOv8 模型轉換為OpenVINO IR模型格式,分別在CPU、iGPU及NPU上進行部署。觀察這些模型在CPU、iGPU及NPU的硬體效能差異,透過實際執行影片推論的過程,觀察NPU的性能表現。

Read More
【開箱實測】OpenVINO榨出單板極限,實作離線LLM AI助理!
7 月25

【開箱實測】OpenVINO榨出單板極限,實作離線LLM AI助理!

在當前AI PC問世之際,相信不少人已知道OpenVINO可以加速離線大語言模型(LLM)的推論速度,本篇文章是要更進一步在資源更為受限的單板電腦上進行大語言模型的推論,甚至是實作一個離線大語言模型的AI助理出來!

Read More
【2024 MAI Talks】健身設備運動姿態AI評估系統
7 月22

【2024 MAI Talks】健身設備運動姿態AI評估系統

在這場分享中,李盛安老師深入介紹了其最近投入的AI產學合作開發專案:「健身設備運動姿態AI評估系統」,此系統利用人工智能技術,提升健身器材的運動效果並防止運動傷害。

Read More