OpenVINO工具套件AI程式講座
|
【Arm的AI世界】三步驟輕鬆在Ethos-U85上使用PyTorch與ExecuTorch
3 月25

【Arm的AI世界】三步驟輕鬆在Ethos-U85上使用PyTorch與ExecuTorch

Posted By on 3 月 25, 2025 in Arm, Arm的AI世界, Edge AI開發地圖, Edge AI開發環境, PyTorch, 技術導讀, 教學文, 物聯網, 特寫

Arm透過在Ethos-U85上支援ExecuTorch測試版，為開發人員建構物聯網邊緣端應用提供了更多支援。開發人員可以借助ExecuTorch，高效率地部署原生開發的PyTorch模型，基於Arm平台建構出智慧且回應迅速的IoT解決方案。

Read More
認識Qualcomm AI 模型優化工具：AIMET
3 月04

認識Qualcomm AI 模型優化工具：AIMET

Posted By on 3 月 4, 2025 in ONNX, PyTorch, Qualcomm, TensorFlow, 技術導讀, 知識庫

AIMET是 Qualcomm 開發的一套 AI 模型優化工具，它透過壓縮和量化技術來縮小模型，同時保持任務的準確性，有助於提高其在資源受限設備（如手機、邊緣裝置、IoT 設備）上的運行效率。

Read More
Arm與GitHub聯手助力軟體開發者簡化AI應用部署流程
11 月07

Arm與GitHub聯手助力軟體開發者簡化AI應用部署流程

Posted By on 11 月 7, 2024 in Arm, Edge AI解決方案, Edge AI開發地圖, Edge AI開發環境, PyTorch, 新聞稿, 產品新訊

Arm宣佈與發者社群GitHub合作，結合其運算平台與GitHub Copilot工具的優勢推動軟體開發領域的變革－－借助Copilot的 AI 程式碼建議，開發人員可以在Arm平台上更有效率地編寫、測試和最佳化程式碼。

Read More
【Arm的AI世界】以ExecuTorch與TOSA讓PyTorch在Arm平台順利運作
4 月22

【Arm的AI世界】以ExecuTorch與TOSA讓PyTorch在Arm平台順利運作

Posted By on 4 月 22, 2024 in Arm, Arm的AI世界, Edge AI解決方案, Edge AI開發地圖, Edge AI開發環境, PyTorch, 專欄, 教學文, 量化技術

Arm與Meta密切合作在ExecuTorch導入對Arm裝置的初步支援，以Tensor運算子集架構(TOSA)為基礎擷取類神經網路，並利用Ethos NPU在行動及嵌入式平台加速關鍵的ML工作負載…快來了解如何使用PyTorch及ExecuTorch以TOSA將圖形匯出至Arm平台！

Read More
運用BF16與NHWC技術實現進階版LLM微調訓練最佳化
12 月18

運用BF16與NHWC技術實現進階版LLM微調訓練最佳化

Posted By on 12 月 18, 2023 in Edge AI教學文, Edge AI開發地圖, Edge AI開發學習, LLM, OpenVINO專欄, OpenVINO應用, OpenVINO評測文, PyTorch, 教學文, 評測

本文要來介紹如何利用BF16半精度浮點數以及將影像資料設為NHWC格式兩項技術，來最佳化大型AI模型的訓練速度與記憶體節省，並延續以微調模型訓練為範例，透過完整程式碼來示範如何發揮這兩項新技術的用法和魅力。

Read More
活用IPEX和Intel GPU加速大型語言模型訓練效率
12 月05

活用IPEX和Intel GPU加速大型語言模型訓練效率

Posted By on 12 月 5, 2023 in AI關鍵技術, Edge AI開發地圖, Edge AI開發環境, Intel, LLM, OpenVINO, OpenVINO專欄, PyTorch, 技術新訊, 評測, 開箱文

以IPEX (Intel-Extension-for-PyTorch)搭配Intel硬體產品，可提供最佳化功能大幅提升運作效能。例如透過PyTorch的裝置來發揮Intel GPU的潛能，加速AI模型的訓練和推論。本篇文章將說明如何善用上述兩項產品來實現效能的大幅提升，仍然以微調訓練的範例來展現它們的特性，並說明其使用方法和流程。

Read More