【Arm的AI世界】在裸機環境運作KleidiAI MatMul核心
本文將介紹如何在裸機環境中運作KleidiAI微核心,並針對不同編譯器在不同最佳化等級下的表現進行基礎的基準測試。
有了Intel AI Playground 不寫程式也能輕鬆玩生成式AI
Intel整合自家NPU/GPU硬體強大算力及OpenVINO開源推論工具套件,開發出一套「AI Playground」,讓聊天對話、文字生成影像及影像強化輕輕鬆鬆就能完成。
用OpenVINO GenAI解鎖LoRA微調模型推論
借助OpenVINO GenAI,你可以無縫整合 LoRA配接器,實現對大語言模型的快速個性化客製。開發者還可以一次性載入多個LoRA配接器,並在執行時快速切換,無需重新編譯基礎模型。
在家造AI神器!OpenVINO讓桌面推論觸手可及
AI PC是一台配備專門用於加速AI工作負載硬體的電腦,意味著我們可以高效率地運作包含AI模型的應用程式;透過精選的軟硬體,筆者將證明幾乎任何類型的AI應用都可以在本地運作。
【Arm的AI世界】在Arm架構邊緣端裝置部署PyTorch模型
以Arm架構為基礎的處理器憑藉低功耗和高效率等優勢,在嵌入式系統中得到了廣泛應用。本文將為你展示如何在樹莓派或NVIDIA Jetson Nano 等Arm架構邊緣端裝置上部署PyTorch模型。