PyTorch Archives | MakerPRO

5 月09

認識IPEX-LLM：LLM模型最佳化的PyTorch工具

IPEX-LLM是英特爾為其 XPU（Xeon/Core/Flex/Arc/PVC）提出的低位元 LLM 開源（Apache 2.0授權）函式庫，是專為 PyTorch 生態打造的LLM執行擴充套件，具有廣泛的模型支援、低延遲和記憶體佔用小等優勢。

5 月07

Analog Devices（ADI）推出的MAX78000，是一款針對Edge AI應用設計的超低功耗微控制器（Microcontroller Unit, MCU），專為在資源有限的邊緣設備上執行神經網路推論而打造。

3 月25

Arm透過在Ethos-U85上支援ExecuTorch測試版，為開發人員建構物聯網邊緣端應用提供了更多支援。開發人員可以借助ExecuTorch，高效率地部署原生開發的PyTorch模型，基於Arm平台建構出智慧且回應迅速的IoT解決方案。

3 月04

AIMET是 Qualcomm 開發的一套 AI 模型優化工具，它透過壓縮和量化技術來縮小模型，同時保持任務的準確性，有助於提高其在資源受限設備（如手機、邊緣裝置、IoT 設備）上的運行效率。

11 月07

Arm宣佈與發者社群GitHub合作，結合其運算平台與GitHub Copilot工具的優勢推動軟體開發領域的變革－－借助Copilot的 AI 程式碼建議，開發人員可以在Arm平台上更有效率地編寫、測試和最佳化程式碼。

4 月22

Arm與Meta密切合作在ExecuTorch導入對Arm裝置的初步支援，以Tensor運算子集架構(TOSA)為基礎擷取類神經網路，並利用Ethos NPU在行動及嵌入式平台加速關鍵的ML工作負載…快來了解如何使用PyTorch及ExecuTorch以TOSA將圖形匯出至Arm平台！