|
【Arm的AI世界】在裸機環境運作KleidiAI MatMul核心
9 月04

【Arm的AI世界】在裸機環境運作KleidiAI MatMul核心

本文將介紹如何在裸機環境中運作KleidiAI微核心,並針對不同編譯器在不同最佳化等級下的表現進行基礎的基準測試。

Read More
有了Intel AI Playground 不寫程式也能輕鬆玩生成式AI
9 月02

有了Intel AI Playground 不寫程式也能輕鬆玩生成式AI

Intel整合自家NPU/GPU硬體強大算力及OpenVINO開源推論工具套件,開發出一套「AI Playground」,讓聊天對話、文字生成影像及影像強化輕輕鬆鬆就能完成。

Read More
用OpenVINO GenAI解鎖LoRA微調模型推論
8 月29

用OpenVINO GenAI解鎖LoRA微調模型推論

借助OpenVINO GenAI,你可以無縫整合 LoRA配接器,實現對大語言模型的快速個性化客製。開發者還可以一次性載入多個LoRA配接器,並在執行時快速切換,無需重新編譯基礎模型。

Read More
GenAI生成多媒體播放器
8 月21

GenAI生成多媒體播放器

本文將介紹如何使用 ChatGPT 生成Python 程式碼,設計出圖檔、影片檔與音檔三大類常見的多媒體播放器。

Read More
在家造AI神器!OpenVINO讓桌面推論觸手可及
8 月19

在家造AI神器!OpenVINO讓桌面推論觸手可及

AI PC是一台配備專門用於加速AI工作負載硬體的電腦,意味著我們可以高效率地運作包含AI模型的應用程式;透過精選的軟硬體,筆者將證明幾乎任何類型的AI應用都可以在本地運作。

Read More
【Arm的AI世界】在Arm架構邊緣端裝置部署PyTorch模型
8 月04

【Arm的AI世界】在Arm架構邊緣端裝置部署PyTorch模型

以Arm架構為基礎的處理器憑藉低功耗和高效率等優勢,在嵌入式系統中得到了廣泛應用。本文將為你展示如何在樹莓派或NVIDIA Jetson Nano 等Arm架構邊緣端裝置上部署PyTorch模型。

Read More