|
Arm與GitHub聯手助力軟體開發者簡化AI應用部署流程
11 月07

Arm與GitHub聯手助力軟體開發者簡化AI應用部署流程

Posted By on 11 月 7, 2024 in Arm, Edge AI解決方案, Edge AI開發地圖, Edge AI開發環境, PyTorch, 新聞稿, 產品新訊

Arm宣佈與發者社群GitHub合作，結合其運算平台與GitHub Copilot工具的優勢推動軟體開發領域的變革－－借助Copilot的 AI 程式碼建議，開發人員可以在Arm平台上更有效率地編寫、測試和最佳化程式碼。

Read More
【Arm的AI世界】以ExecuTorch與TOSA讓PyTorch在Arm平台順利運作
4 月22

【Arm的AI世界】以ExecuTorch與TOSA讓PyTorch在Arm平台順利運作

Posted By on 4 月 22, 2024 in Arm, Arm的AI世界, Edge AI解決方案, Edge AI開發地圖, Edge AI開發環境, PyTorch, 專欄, 教學文, 量化技術

Arm與Meta密切合作在ExecuTorch導入對Arm裝置的初步支援，以Tensor運算子集架構(TOSA)為基礎擷取類神經網路，並利用Ethos NPU在行動及嵌入式平台加速關鍵的ML工作負載…快來了解如何使用PyTorch及ExecuTorch以TOSA將圖形匯出至Arm平台！

Read More
運用BF16與NHWC技術實現進階版LLM微調訓練最佳化
12 月18

運用BF16與NHWC技術實現進階版LLM微調訓練最佳化

Posted By on 12 月 18, 2023 in Edge AI教學文, Edge AI開發地圖, Edge AI開發學習, LLM, OpenVINO專欄, OpenVINO應用, OpenVINO評測文, PyTorch, 教學文, 評測

本文要來介紹如何利用BF16半精度浮點數以及將影像資料設為NHWC格式兩項技術，來最佳化大型AI模型的訓練速度與記憶體節省，並延續以微調模型訓練為範例，透過完整程式碼來示範如何發揮這兩項新技術的用法和魅力。

Read More
活用IPEX和Intel GPU加速大型語言模型訓練效率
12 月05

活用IPEX和Intel GPU加速大型語言模型訓練效率

Posted By on 12 月 5, 2023 in AI關鍵技術, Edge AI開發地圖, Edge AI開發環境, Intel, LLM, OpenVINO, OpenVINO專欄, PyTorch, 技術新訊, 評測, 開箱文

以IPEX (Intel-Extension-for-PyTorch)搭配Intel硬體產品，可提供最佳化功能大幅提升運作效能。例如透過PyTorch的裝置來發揮Intel GPU的潛能，加速AI模型的訓練和推論。本篇文章將說明如何善用上述兩項產品來實現效能的大幅提升，仍然以微調訓練的範例來展現它們的特性，並說明其使用方法和流程。

Read More
PyTorch為邊緣及行動設備推出ML推論優化工具：ExecuTorch
10 月26

PyTorch為邊緣及行動設備推出ML推論優化工具：ExecuTorch

Posted By on 10 月 26, 2023 in Edge AI開發地圖, Edge AI開發環境, PyTorch, 新聞稿, 深度學習, 產業趨勢

PyTorch Edge團隊日前（10/17）宣布推出ExecuTorch解決方案，此方案可為行動及邊緣設備提供設備端推論功能（on-device inference），目前已獲得Arm、Apple 和 Qualcomm 創新中心等大廠的支持。

Read More
【知識庫】PyTorch 與 TensorFlow有什麼差別？
10 月22

【知識庫】PyTorch 與 TensorFlow有什麼差別？

Posted By on 10 月 22, 2023 in Edge AI開發地圖, PyTorch, TensorFlow, 深度學習, 知識庫, 開發工具

同樣作為適合新手入門人工智慧領域的PyTorch與 TensorFlow，他們之間又有哪些差異呢？

Read More