|
在家造AI神器!OpenVINO讓桌面推論觸手可及
8 月19

在家造AI神器!OpenVINO讓桌面推論觸手可及

AI PC是一台配備專門用於加速AI工作負載硬體的電腦,意味著我們可以高效率地運作包含AI模型的應用程式;透過精選的軟硬體,筆者將證明幾乎任何類型的AI應用都可以在本地運作。

Read More
華為開源CANN,能否打破NVIDIA CUDA的護城河?
8 月14

華為開源CANN,能否打破NVIDIA CUDA的護城河?

華為旗下的昇騰(Ascend)AI處理器核心軟體平台CANN日前宣佈將全面開源,此舉被視為是針對NVIDIA的CUDA生態系統的宣戰,問題是,對AI產業的影響會有多大呢?

Read More
【實作案例】以OpenVINO實現VLM、MLLM導入產業應用
8 月07

【實作案例】以OpenVINO實現VLM、MLLM導入產業應用

本文從技術原理出發,結合理論與實測,展示了如何以Phi-3 Vision為核心模型,配合OpenVINO部署最佳化與YOLOv8偵測模組,建構可實際落地的多模態語言模型應用架構。

Read More
【Arm的AI世界】在Arm架構邊緣端裝置部署PyTorch模型
8 月04

【Arm的AI世界】在Arm架構邊緣端裝置部署PyTorch模型

以Arm架構為基礎的處理器憑藉低功耗和高效率等優勢,在嵌入式系統中得到了廣泛應用。本文將為你展示如何在樹莓派或NVIDIA Jetson Nano 等Arm架構邊緣端裝置上部署PyTorch模型。

Read More
運用Qualcomm AI Hub結合WoS打造低功耗高效能推論平台
8 月01

運用Qualcomm AI Hub結合WoS打造低功耗高效能推論平台

本篇筆者將以實作的方式操作AI Hub,並將最佳化的模型部署在Windows on Snapdragon AI PC上運行,體驗如何在短時間內完成AI應用的展示與評估。

Read More
高通台灣AI黑客松開跑:挑戰生成式AI邊緣應用創新無極限!
7 月29

高通台灣AI黑客松開跑:挑戰生成式AI邊緣應用創新無極限!

全球裝置端AI領導者Qualcomm首度在台舉辦AI黑客松競賽,廣邀本地AI開發者揮灑創意,將腦中的應用構想在邊緣裝置上實現。

Read More