重磅宣告「邁入新階段」:Arm開賣AI資料中心CPU晶片
Arm執行長Rene Haas於美國時間3月24日上午在舊金山舉辦、並透過網路全程直播的Arm Everywhere大會專題演說中宣佈重大訊息──Arm要自己賣晶片了!首款產品是鎖定AI資料中心應用的Arm AGI CPU。
【Arm的AI世界】運用ExecuTorch與Arm SME2加速裝置端機器學習推論
這篇文章將探討ExecuTorch和Arm SME2如何為互動式影像分割等行動端應用場景帶來速度更快、回應更流暢的AI體驗。
【Arm的AI世界】重新思考CPU在AI中的角色:在DGX Spark上實作實用的RAG
本文將深入解析基於CPU的嵌入、統一記憶體與本地檢索工作流程如何相互串接,在桌機級AI平台上打造反應迅速、兼顧隱私的RAG流水線——並由Arm與DGX Spark驅動運算。
RISC系列CPU核心在Edge AI/實體AI應用領域的下一輪競合
許多邊緣AI應用的核心考量並不在於追求極致算力,更著重於在「足夠的推論效能」與「可接受的功耗表現」之間尋求最佳平衡,具備多樣化選擇、高度客製化彈性的RISC系列處理器自然成為主角。
【Arm的AI世界】運用本地端LLM推論重塑智慧家庭的隱私與延遲表現
本文將帶領讀者了解如何透過Raspberry Pi 5與基於Arm的本地端LLM推論,打造一個完全私有、無需依賴雲端、且具備即時效能的智慧家庭助理。
【Arm的AI世界】運用黃隊演練與LLM助理打造「負責任」的AI產品
生成式AI的功能極為強大且用途廣泛,AI產品嵌入經濟活動的情況越來越為普遍,並且是企業成功不可或缺的一環;此一科技的使用範疇、規模與影響需要我們細心地規劃部署,才能從中獲益且不至於擴大危害。