PyTorch為邊緣及行動設備推出ML推論優化工具:ExecuTorch
PyTorch Edge團隊日前(10/17)宣布推出ExecuTorch解決方案,此方案可為行動及邊緣設備提供設備端推論功能(on-device inference),目前已獲得Arm、Apple 和 Qualcomm 創新中心等大廠的支持。
免「仲介」 OpenVINO能直接支援PyTorch模型物件!
隨著OpenVINO 2023.0版本的發佈,OpenVINO工具庫中預置了全新的PyTorch前端,為開發者們提供了一條全新的PyTorch模型支援路徑,帶來更友好的用戶體驗—— OpenVINO的mo工具可以直接將PyTorch模型物件轉化為OpenVINO的模型物件,開發者可以不需要將ONNX模型作為中間過渡。
在DeepStream上使用自己的Pytorch模型
DeepStream工具由NVIDIA開發,能夠處理多個串流影像,並進行智慧辨識。本文將介紹如何將其應用在Jetson Nano上,並於DeepStream導入自己的Pytorch模型執行辨識。