|
【Arm的AI世界】運算平台開發者必看:無須硬體也能進行OpenBMC+UEFI模擬與驗證!
4 月09

【Arm的AI世界】運算平台開發者必看:無須硬體也能進行OpenBMC+UEFI模擬與驗證!

在現今的伺服器中,BMC不僅僅是開機時的輔助元件,更是整個平台的控制中樞。這篇文章將帶您了解如何將BMC與韌體模擬整合至持續整合(CI)流程,以加速平台啟動(bring-up)、測試,以及開發人員上手的效率。

Read More
【Arm的AI世界】運用ExecuTorch與Arm SME2加速裝置端機器學習推論
3 月18

【Arm的AI世界】運用ExecuTorch與Arm SME2加速裝置端機器學習推論

這篇文章將探討ExecuTorch和Arm SME2如何為互動式影像分割等行動端應用場景帶來速度更快、回應更流暢的AI體驗。

Read More
【Arm的AI世界】重新思考CPU在AI中的角色:在DGX Spark上實作實用的RAG
2 月12

【Arm的AI世界】重新思考CPU在AI中的角色:在DGX Spark上實作實用的RAG

本文將深入解析基於CPU的嵌入、統一記憶體與本地檢索工作流程如何相互串接,在桌機級AI平台上打造反應迅速、兼顧隱私的RAG流水線——並由Arm與DGX Spark驅動運算。

Read More
【Arm的AI世界】運用本地端LLM推論重塑智慧家庭的隱私與延遲表現
1 月19

【Arm的AI世界】運用本地端LLM推論重塑智慧家庭的隱私與延遲表現

本文將帶領讀者了解如何透過Raspberry Pi 5與基於Arm的本地端LLM推論,打造一個完全私有、無需依賴雲端、且具備即時效能的智慧家庭助理。

Read More
【Arm的AI世界】Ethos-U迎向新世代:ExecuTorch 1.0驅動邊緣AI大躍進
12 月11

【Arm的AI世界】Ethos-U迎向新世代:ExecuTorch 1.0驅動邊緣AI大躍進

做為PyTorch生態系的一部分,ExecuTorch在創新與嵌入式部署之間建立起更順暢的連結,讓開發者能在各類Arm 邊緣裝置上執行最先進的模型——從搭配Arm Ethos-U NPU、強調低功耗的微控制器,到採用Arm CPU、支撐高效能需求的工業級解決方案皆然。

Read More
【Arm的AI世界】運用黃隊演練與LLM助理打造「負責任」的AI產品 
11 月04

【Arm的AI世界】運用黃隊演練與LLM助理打造「負責任」的AI產品 

生成式AI的功能極為強大且用途廣泛,AI產品嵌入經濟活動的情況越來越為普遍,並且是企業成功不可或缺的一環;此一科技的使用範疇、規模與影響需要我們細心地規劃部署,才能從中獲益且不至於擴大危害。

Read More