【啟動AI Maker世代 】2024 MAI 開發者社群大會（5/16-17）
|
【Arm的AI世界】以ExecuTorch與TOSA讓PyTorch在Arm平台順利運作
4 月22

【Arm的AI世界】以ExecuTorch與TOSA讓PyTorch在Arm平台順利運作

Posted By on 4 月 22, 2024 in Arm, Arm的AI世界, Edge AI解決方案(Board/Kit/Module), Edge AI開發地圖, Edge AI開發環境（工具/平台/框架/模型）, PyTorch, 專欄, 教學文, 量化技術

Arm與Meta密切合作在ExecuTorch導入對Arm裝置的初步支援，以Tensor運算子集架構(TOSA)為基礎擷取類神經網路，並利用Ethos NPU在行動及嵌入式平台加速關鍵的ML工作負載…快來了解如何使用PyTorch及ExecuTorch以TOSA將圖形匯出至Arm平台！

Read More
運用BF16與NHWC技術實現進階版LLM微調訓練最佳化
12 月18

運用BF16與NHWC技術實現進階版LLM微調訓練最佳化

Posted By on 12 月 18, 2023 in Edge AI教學文, Edge AI開發地圖, Edge AI開發學習, LLM, OpenVINO專欄, OpenVINO應用, OpenVINO評測文, PyTorch, 教學文, 評測

本文要來介紹如何利用BF16半精度浮點數以及將影像資料設為NHWC格式兩項技術，來最佳化大型AI模型的訓練速度與記憶體節省，並延續以微調模型訓練為範例，透過完整程式碼來示範如何發揮這兩項新技術的用法和魅力。

Read More
活用IPEX和Intel GPU加速大型語言模型訓練效率
12 月05

活用IPEX和Intel GPU加速大型語言模型訓練效率

Posted By on 12 月 5, 2023 in AI關鍵技術, Edge AI開發地圖, Edge AI開發環境（工具/平台/框架/模型）, Intel, LLM, OpenVINO, OpenVINO專欄, PyTorch, 技術新訊, 評測, 開箱文

以IPEX (Intel-Extension-for-PyTorch)搭配Intel硬體產品，可提供最佳化功能大幅提升運作效能。例如透過PyTorch的裝置來發揮Intel GPU的潛能，加速AI模型的訓練和推論。本篇文章將說明如何善用上述兩項產品來實現效能的大幅提升，仍然以微調訓練的範例來展現它們的特性，並說明其使用方法和流程。

Read More
PyTorch為邊緣及行動設備推出ML推論優化工具：ExecuTorch
10 月26

PyTorch為邊緣及行動設備推出ML推論優化工具：ExecuTorch

Posted By on 10 月 26, 2023 in Edge AI開發地圖, Edge AI開發環境（工具/平台/框架/模型）, ExecuTorch, PyTorch, 新聞稿, 深度學習, 產業趨勢

PyTorch Edge團隊日前（10/17）宣布推出ExecuTorch解決方案，此方案可為行動及邊緣設備提供設備端推論功能（on-device inference），目前已獲得Arm、Apple 和 Qualcomm 創新中心等大廠的支持。

Read More
【知識庫】PyTorch 與 TensorFlow有什麼差別？
10 月22

【知識庫】PyTorch 與 TensorFlow有什麼差別？

Posted By on 10 月 22, 2023 in Edge AI開發地圖, PyTorch, TensorFlow, 深度學習, 知識庫, 開發工具

同樣作為適合新手入門人工智慧領域的PyTorch與 TensorFlow，他們之間又有哪些差異呢？

Read More
免「仲介」　OpenVINO能直接支援PyTorch模型物件！
8 月04

免「仲介」　OpenVINO能直接支援PyTorch模型物件！

Posted By on 8 月 4, 2023 in Edge AI, Edge AI教學文, Edge AI開發地圖, Intel, OpenVINO, OpenVINO專欄, OpenVINO教學文, PyTorch, 教學文

隨著OpenVINO 2023.0版本的發佈，OpenVINO工具庫中預置了全新的PyTorch前端，為開發者們提供了一條全新的PyTorch模型支援路徑，帶來更友好的用戶體驗—— OpenVINO的mo工具可以直接將PyTorch模型物件轉化為OpenVINO的模型物件，開發者可以不需要將ONNX模型作為中間過渡。

Read More