|

Alif宣佈Ensemble系列MCU支援ExecuTorch Runtime延伸模組

   

AI/ML微控制器 (MCU) 及融合處理器供應商Alif Semiconductor日前宣布,開發者現可將熱門PyTorch ML框架的量化延伸模組ExecuTorch Runtime,應用於基於其Ensemble E4/E6/E8系列MCU及融合處理器所開發的AI應用中。

ExecuTorch延伸模組能協助針對MCU等資源受限硬體目標的 AI 模型開發者,透過PyTorch框架打造輕量級模型,支援低延遲、高準確度的推論功能。由於Ensemble E4、E6和E8系列產品內建支援 Transformer式ML網路的Arm Ethos-U85 NPU,開發者現可運用PyTorch與ExecuTorch Runtime,建構能在電池供電終端裝置上本機運作的生成式AI應用,如智慧眼鏡、人機介面裝置、醫療保健與診斷設備,以及機器人、運輸設備、益智玩具與教育產品、智慧家庭還有智慧城市設備等。

在10月下旬於美國舊金山舉行的PyTorch大會上,Arm展示了經ExecuTorch編譯、可在Alif Ensemble E8 融合處理器上運作的生成式 AI 應用案例,包括:

  • 一款運作於Ensemble E8的小型語言模型,可根據視覺提示生成適合兒童的故事,並可延伸支援語音提示功能。
  • 即時裝置端語音轉文字模型,適用於整合至智慧眼鏡等可穿戴裝置,能實現語音即時轉錄以生成即時字幕。

Alif Semiconductor 總裁 Reza Kazerounian 表示:「Alif 透過持續創新,讓我們持續處於邊緣 AI 領域的領先地位,現今更正式邁入生成式AI時代。透過旗下Ensemble系列微控制器原生支援ExecuTorch Runtime,我們進一步拓展了MCU級AI的應用可能性。對於致力打造次世代智慧產品的嵌入式裝置製造商而言,Alif仍是將AI技術導入邊緣端的可靠領導者。」

Arm 資深副總裁暨IoT業務部門總經理Paul Williamson則表示:「邊緣生成式 AI 正催生全新類別的智慧型電池供電裝置,這類裝置能即時理解並回應互動需求。透過 ExecuTorch 框架,開發者可高效地將PyTorch模型部署至Alif Ensemble MCU,實現低功耗的裝置端推論。此次合作充分展現,統一的生態系統能推動邊緣智慧的大規模應用,加速實際場景中的 AI 創新。」

在PyTorch大會的展示中所使用的Alif DK-E8開發板現已開放購買,該開發板支援整個E4/E6/E8系列的開發工作。

 

 

 

 

MakerPRO編輯部
加速邊緣AI創新 Arm Flexible Access授權模式導入Armv9平台

訂閱MakerPRO知識充電報

與40000位開發者一同掌握科技創新的技術資訊!

Author: MakerPRO編輯部

MakerPRO.cc為華人圈最專注於Maker創新創業、物聯網及共享經濟報導及共筆發表的專業媒體,不論是趨勢分析與評論,或創新實作文章,在華文創新創業媒體領域都具有重要的影響力。

Share This Post On

Submit a Comment

發佈留言必須填寫的電子郵件地址不會公開。 必填欄位標示為 *