資料中心生成式AI推論運算技術供應商d-Matrix,以及RISC-V 處理器核心供應商晶心科技 (Andes Technology),共同宣布d-Matrix已選定AndesCore AX46MPV作為其下一代Raptor推論架構的處理器。本次合作代表著針對資料中心規模的 AI 運算工作、記憶體中心運算(memory-centric computing)與開放標準處理器創新技術的結合。
正在開發中的Raptor加速器,將是首款採用d-Matrix革命性3D記憶體內運算 (3DIMC™) 技術的產品。3DIMC 是一種高度高效的小晶片(chiplet-based)解決方案,也是全球首個用於規模化AI推論的3D DRAM解決方案。它將運算與記憶體堆疊起來,能將資料移動的能耗和延遲降低到1/10,有效克服限制傳統AI推論系統的記憶體瓶頸問題。
晶心科技的AX46MPV既是調度引擎也是向量運算引擎,負責管理工作負載分配、記憶體協調,以及Raptor高頻寬運算架構的運行控制,同時還能分擔如激活函數等運算任務。
d-Matrix 創辦人暨執行長 Sid Sheth 表示:「Raptor的創新設計,正在將推理效率和可擴展性推向遠超傳統架構所能達到的境界。AX46MPV的RISC-V 架構為我們的 3DIMC 方法提供了理想的 CPU,讓我們能夠以前所未有的每瓦性能實現資料中心規模的推理。」
晶心科技董事長暨執行長林志明表示:「我們與d-Matrix的合作,展示了RISC-V如何實現真正的資料中心級推論系統。透過將d-Matrix開創性的3D記憶體內運算與晶心科技先進的RISC-V向量CPU相結合,我們正在將下一代生成式AI推論變為現實。」
本次合作標誌著RISC-V進入大規模AI推論領域的又一個里程碑。它將晶心科技成熟的CPU IP和軟體生態系統,與d-Matrix 創新的小晶片式3DIMC架構完美結合。兩家公司正共同重新定義規模化生成式 AI 部署的每瓦性能和總體擁有成本 (TCO)。
AX46MPV是一款基於開放標準RISC-V指令集架構的 64 位元、支援Linux的多核心CPU IP。其亮點包括:
- 配備高達 2048 位元的向量處理單元 (RVV 1.0),在歸約求和 (reduction sum) 方面具有大幅性能提升。
- 雙負載儲存單元,可用於純量/向量負載和儲存的任意組合。
- 高頻寬向量記憶體 (HVM),能夠處理亂序 (out-of-order) 的資料回傳。
- 支援大量的未完成匯流排請求。
這些特性共同提供了資料中心級推理系統所需的性能餘裕和軟體靈活性。針對Transformer和大型語言模型工作負載的核心參考核心(Reference kernels)顯示,相較於前代處理器 AX45MPV,性能提升高達 2.3 倍。
- 奇景光電將於CES 2026展示AR顯示與無人機AI影像應用 - 2025/12/31
- Arm分享2026年及未來科技發展趨勢預測 - 2025/12/31
- 【Podcast】Physical AI 進化之路:從 ACT 到 GR00T N1 揭開機器人智慧 - 2025/12/30
訂閱MakerPRO知識充電報
與40000位開發者一同掌握科技創新的技術資訊!


