|

支援GenAI邊緣應用 Alif Semiconductor秀新一代Ensemble系列MCU功耗與性能表現

   

專注於開發安全、連網、低功耗AI/ML微控制器(MCU)的Alif Semiconductor,於美國時間8月12日公布其第二代Ensemble E4、E6 與 E8系列MCU與融合處理器(fusion processor)的完整性能基準測試結果;這是該公司在年初正式發表的新一代產品,經過數月的客戶合作與驗證,釋出了更多效能細節與應用方向,目標是進一步鞏固在Edge AI市場的領先地位。

Alif的第二代Ensemble系列MCU整合Arm Ethos-U85 NPU、硬體加速影像訊號處理器(ISP)、寬頻記憶體匯流排,並支援多達兩個MIPI-CSI影像感測器,號稱是業界首度可在MCU上實現對Transformer架構神經網路的硬體加速。根據該公司公布的實測結果,其運作小型語言模型(SLM)的功耗僅36mW,開啟了電池供電裝置長時間執行生成式AI應用的可能性;而從元件內部的節能MRAM 運作AI模型時,推論速度可達到低於1毫秒(millisecond)。

內建高效能MRAM降低推論延遲

Alif第二代Ensemble系列MCU新架構的優勢之一,是以內建的高效能非揮發性記憶體MRAM來儲存模型權重與偏差值,免去從外部記憶體搬移資料的過程;這不僅降低了RAM 需求,也能顯著降低能耗與延遲。由於推論過程中模型參數保持靜態,直接從MRAM讀取資料除了可讓AI模型的延遲縮短至毫秒等級,也能避免因頻繁資料搬移造成的額外發熱。在影像應用中,這樣的架構讓E4/E6/E8可於2毫秒內完成物件偵測、8毫秒內完成影像分類,即便在高頻率資料輸入場景中仍能保持低功耗運作,適用於高即時性需求的邊緣AI系統。

在傳統獨立式NPU加速器動輒消耗數瓦的情況下,Alif的方案將功耗降低數個等級,使生成式AI首次能在長時間電池供電的邊緣端裝置上穩定運作。此外由於功耗降低後無需額外散熱系統,這對空間受限的穿戴式產品尤其重要,例如智慧手錶、醫療監測手環、隨身翻譯器、智慧眼鏡與口袋型AI助理等,都可在有限的PCB面積與無風扇的環境下順暢執行多模態AI任務。

在醫療應用中,E4/E6/E8 可驅動即時健康監測設備,持續收集並分析心率、血氧、體溫等生理數據,並即時給出診斷建議;在教育與娛樂領域,具備SLM能力的玩具與教具能依使用者指令即時生成故事或語音回應;在智慧城市中,搭載該 MCU 的感測器節點可即時進行影像辨識與異常事件檢測,而無需將大量影像資料回傳雲端。

強化的硬體與系統架構

第二代Ensemble MCU(E4、E6和E8分別對應2、3和4個 CPU 核心)採用經驗證的系統架構,除了整合更高頻寬的內部記憶體匯流排拓撲、雙MIPI-CSI攝影機介面、運作速率達每秒200影格的高速硬體影像訊號處理器,以及一對800 MB/s高速外部記憶體介面,還有更多 SRAM 資料保留選項,為設計人員提供更大的彈性,也保留了第一代產品(E1、E3、E5、E7;分別對應1、2、3和4個CPU核心)廣受市場好評的特性,包括高速緊密耦合記憶體、Alif專有aiPM電源管理功能、硬體隔離安全區域,以及多種影像與感測資料串流方案。

而兩代產品軟體相容,在許多產品上也能實現硬體相容。例如,採用FBGA194封裝的全新雙核心E4 MCU可以直接與原有的雙核心E3 MCU整合到相同的 PCB 空間中,實現接腳對街腳的直接相容,提供客戶靈活適應產品設計需求的彈性。

自年初發表以來,Alif 已與多家客戶展開設計合作,預計2026年上半年將有首批搭載新款 MCU的終端產品上市。來自穿戴式、醫療與影像處理領域的回饋顯示,E4/E6/E8 在能效、體積、資料傳輸速度與記憶體設計上都有顯著優勢,能協助縮短產品開發週期,並延長裝置續航力。

與廣大生態系夥伴合作因應起飛的Edge AI應用

面對目前市場上Edge AI開發工具鏈分散、各廠商專屬平台造成的轉換成本問題,Alif表示,該公司是透過採用可授權的NPU架構來提供開發者更多選擇,如同避免使用專有指令集的CPU以防被鎖定在工具可用性有限的生態系統。Alif認為,NPU架構的通用性將促使生態系合作夥伴更願意投入時間和精力來支援該技術,因為這將使得他們的創新技術擁有更廣大的使用族群。

此外,著眼快速發展的邊緣AI軟體生態系,Alif看到有越來越多工具開發上的需求,來幫助邊緣AI開發者創建與規劃資料集的使用,以提高在特定應用中的模型準確度;舉例來說,用以訓練模型來偵測車牌所需的資料集,需要考量到解決方案中攝影機的放置方式,如果攝影機是放在較高的桿子上,車牌看起來的樣子會與高度和車牌相當的攝影機看到的有所不同。為支援這些應用需求,Alif正積極參與像是Edge AI Foundation等產業組織的活動,為開發者與廠商提供相關見解,期望能快速、有效地彌補各種軟硬體功能之間的差距。

展望未來,Alif 預測隨著AI/ML加速技術在MCU與MPU市場的滲透率持續提升,該領域的年複合成長率(CAGR)將由個位數躍升至雙位數,成長潛力可期。

judith

訂閱MakerPRO知識充電報

與40000位開發者一同掌握科技創新的技術資訊!

Author: judith

20年經驗半導體/電子技術領域長期觀察員與報導者,見證科技社群持續成長茁壯、Maker/工程師們以創新改變世界!

Share This Post On

Submit a Comment

發佈留言必須填寫的電子郵件地址不會公開。 必填欄位標示為 *