高通台灣AI黑客松|競賽說明會
|
輕薄型筆電OK!利用OpenVINO部署Phi-3.5「全家餐」
9 月20

輕薄型筆電OK!利用OpenVINO部署Phi-3.5「全家餐」

近期微軟發佈了最新的Phi-3.5系列SLM模型,是非常適合在AI PC上運作的模型任務。本文將分享如何利用OpenVINO在你的AI PC上部署最新Phi-3.5-mini及Phi-3.5-vision模型。

Read More
【Arm的AI世界】Python在Arm平台上的應用
9 月04

【Arm的AI世界】Python在Arm平台上的應用

這篇文章將概述Python在Arm平台上--主要是在Linux與Windows作業系統上--的應用。Python程式語言通用性極高、相當受歡迎,可用在不同的環境中…

Read More
【創業小聚】讓AI縮小又不失準確度,陽明交大出身的峻魁智慧怎麼把車子變聰明?
8 月22

【創業小聚】讓AI縮小又不失準確度,陽明交大出身的峻魁智慧怎麼把車子變聰明?

新創峻魁智慧提出了一套能讓AI瘦身到現行晶片就能運算,而且不會丟失模型準確率的「車用嵌入式系統」,本篇文章會介紹他們是怎麼做到的。

Read More
LLM性能再強化 OpenVINO 2024.3隆重發佈!
8 月21

LLM性能再強化 OpenVINO 2024.3隆重發佈!

OpenVINO 2024.3版本現在已經正式推出!這次更新帶來了新的功能,並對現有功能進行了強化,特別是大型語言模型(LLM)的性能;本文將介紹此新版本的關鍵進展。

Read More
OpenVINO全新GenAI API:幾行程式碼就能快速建立GenAI App!
8 月14

OpenVINO全新GenAI API:幾行程式碼就能快速建立GenAI App!

全新的OpenVINO GenAI API為開發者提供了更簡單與清晰的程式碼;這意味著除了提供電腦視覺、AI加速與最佳化程式庫,OpenVINO現在也是開發者實現GenAI應用的助力。

Read More
OpenVINO 2024.2姿態模型效能評估:以OpenPose、YOLOv8與3D-Pose為例
8 月05

OpenVINO 2024.2姿態模型效能評估:以OpenPose、YOLOv8與3D-Pose為例

本文主要於ASRock NUC BOX-155H平台進行,使用Intel Core Ultra運作的NUC (下一代計算單元)。我們將姿態辨識模型OpenPose、3D Pose、MoveNet 與 YOLOv8 模型轉換為OpenVINO IR模型格式,分別在CPU、iGPU及NPU上進行部署。觀察這些模型在CPU、iGPU及NPU的硬體效能差異,透過實際執行影片推論的過程,觀察NPU的性能表現。

Read More