Arm架構引領雲端運算新典範：開發者無痛轉移密技大公開

Posted By MakerPRO編輯部 on 5 月 29, 2025 in AIGC, Arm, Edge AI開發地圖, 技術新訊, 活動報導 | 0 comments

Arm Developer Experience 開發者技術演講會後報導 | COMPUTEX 2025

透過建立覆蓋雲端至邊緣的運算平台，Arm正在為AI無所不在的未來建構基礎，而目前在全球有超過2,200萬名開發者在為Arm架構硬體創造更多價值。為了深化與開發者的連結，Arm首度在年度台北國際電腦展(Computex 2025)期間舉辦了「Arm Developer Experience」開發者體驗活動，透過為期兩天的技術講座、實機展示與專家互動交流，為台灣本地開發者提供精進技能、拓展人脈的機會，探索AI在雲端與行動裝置上的創新應用。

首日針對雲端開發者設計的講座內容，除了有Arm專家帶領聽眾探索從x86雲端環境無縫遷移至Arm架構平台的實作案例，並分享使用Arm GitHub Copilot提升開發效率、在本地部署RAG聊天機器人的技巧，還邀請到生態系夥伴、Ubuntu發行商Canonical的代表，詳細介紹此開源OS平台在企業應用上的優勢。

雲端運算新主流：更高效能、更低能耗

著眼AI時代資料中心對提升能源效率越來越高的需求，Arm架構以其卓越的每瓦效能(performance-per-watt)迅速成為雲端環境的首選解決方案；除了可將能源效率提升約60%，幫助企業在降低碳排同時節省營運成本，Arm架構還具備高度多雲支援能力，可與AWS、Microsoft Azure、Google Cloud、Oracle Cloud (OCI)等主流平台無縫整合。

不只是能源效率的提升，採用Arm架構的雲端應用可帶來平均25%的效能提升，而包括AWS (Graviton)、Google Cloud (Axion)以及阿里雲(Yitian 710)、Azure (Cobalt 100)與NVIDIA (Grace Blackwell)等雲端運算平台，皆部署了Arm-based伺服器來因應龐大的AI工作負載，特別是佔據約80~85%工作量的推論(inferencing)任務。這些雲端平台皆針對特定工作負載進行深度最佳化，使Arm架構系統效能不僅與x86架構系統相當，更大幅降低能源消耗，實現低TCO (Total Cost of Ownership)的大規模部署。

為解決AI部署效能瓶頸，Arm在2024年推出KleidiAI，一套以微核心(micro-kernels)為基礎的輕量加速函式庫，可無縫整合至各種主流AI框架，包括ONNX Runtime、LiteRT、MediaPipe、ExecuTorch、PyTorch、llama.cpp、阿里巴巴通義千問模型使用的MNN框架、以及騰訊混元的Angel框架，最佳化在CPU上運作的AI工作負載。透過加速GEMM (General Matrix Multiplications)提供更快速的輸出效能，同時顯著降低運算與資料擷取週期，能讓自然語言處理(NLP)、語音辨識、物件偵測、圖片分類、推薦系統與小型語言模型等AI應用效能大幅提升。

Arm首席解決方案架構師Odin Shen在會間展示了運用KleidiAI在Google Cloud的Axion 處理器上部署基於檢索增強生成(RAG)架構的Llama聊天機器人。該實作範例中，透過llama-cpp-python及LangChain框架，開發者可建置可查詢本地資料的聊天機器人，並將向量資料儲存在FAISS資料庫中供 RAG 模型使用。在64核心的Arm雲端實例上，整套系統可達到50-60 token per second (TPS)的推論效能，搭配4-bit量化技術，在保留生成品質的同時進一步降低資源消耗。

以豐富軟體資源助力朝向Arm架構的無縫轉移

為協助企業與開發者順利將AI運算平台轉移至Arm架構，Arm提供「雲端遷移資源中心」(Cloud Migration Resource Hub)，提供超過100條針對熱門工作負載的學習路徑與教學影片。此外，開發者可在Arm的「Ecosystem Dashboard」中查找超過800種適用於Arm的軟體套件，並查看針對特定套件的部署與最佳化化指南。無論是 DevOps 工具鏈、容器技術、Kubernetes混合部署或是CI/CD 整合流程，Arm都可提供完善的支援。

針對從x86遷移至Arm架構的開發挑戰，Arm除了提出「Plan、Test、Optimize」三部曲策略，也推出開源工具Migrate-Ease。開發者只需上傳原始碼，系統即可自動掃描潛在相容性問題，提供修正建議並加快移植流程；此外，Arm 還提供雲端資源中心與範例教學，支援多種語言與框架，包括Java、C/C++、Python、Rust、ROS 2 等，並搭配效能分析工具，如 Linux perf、WinPerf協助開發者優化部署成果。

Arm專家建議，在將應用程式從x86架構遷移至Arm架構的過程中，開發者可依應用堆疊的複雜度，從由上而下(Top-Down)或是由下而上(Bottom-Up)的兩種主流遷移方法中做選擇。Top-Down方法適用於基於直譯式語言或堆疊較簡單的應用程式，從整體應用層級出發，先直接在Arm平台上嘗試執行應用，遇到錯誤後逐一修正相關函式庫(如lib1、lib2)，直至應用能完整運作；這種方式快速直覺，適合初期測試與輕量部署。

Bottom-Up方法則更適合大型或高度模組化的系統。此策略從底層元件著手，先在Arm上執行最小軟體堆疊，逐步偵錯與修正，接著有系統地重新加入應用元件，直到整體應用可穩定運行。雖然步驟較繁瑣，卻能有效降低一次性轉移造成的大量錯誤，提升最終穩定性與效能。這兩種方法各有適用場景，開發者可依專案規模與需求靈活選擇，確保轉移過程穩健、高效。

為Arm開發者打造專屬AI助手：GitHub Copilot Extension

AI雲端運算朝向Arm架構的遷移，不僅是硬體架構的轉變，也是整個雲端運算生態系的演進。為協助開發者快速適應這場轉型，除了完整的軟體資源庫與內部專家團隊，Arm也積極打造開放且互動的開發者社群──透過Arm Developer Program (Arm 開發人員計畫)，開發者可免費取得技術資源、教學影片與實作指南，並與來自全球的工程師與 Arm 內部專家交流切磋。此外，Arm也設立了Arm Ambassadors 計畫，表揚在社群中活躍貢獻的技術領袖，提供硬體資源、培訓課程與講者機會，鼓勵共同推動生態系發展。

從雲端應用到嵌入式系統，Arm 透過實體活動、線上社群與技術加值資源，全面展現對開發者的重視與長期投入。包括專為Arm開發者打造的GitHub Copilot Extension擴展功能，可結合Arm生態系的應用加速軟體開發流程、降低技術門檻。此擴充套件不僅提供最佳實務建議，並結合了RAG技術，讓回應具備「可信、快速、可追溯」三大特色。

GitHub Copilot是由GitHub與OpenAI共同開發的AI助手，能根據使用者輸入的指令自動產生程式碼建議。而開發團隊將 Arm Ecosystem Dashboard、Learning Paths、Intrinsics Database等來源資料轉化為超過1萬2,000筆的語塊(chunks)，儲存在本地化的向量資料庫中。使用者提問後，系統會透過語意比對尋找最相關的知識片段，生成具上下文與技術依據的回應，並即時串流回傳給開發者。

舉例來說，若開發者詢問如何在Arm平台上部署特定AI模型，Copilot 不僅能提供正確步驟，更會引用來自 Arm 官方資源的參考資料與範例程式碼，推薦最佳化的寫法，協助開發者編寫能發揮硬體極致效能的程式碼；這不僅降低了查找與驗證資訊的時間成本，更確保回應具備技術正確性與實用性。該Copilot架構可在本地端運行，不需將敏感資料上傳至雲端，特別適用於對資安有嚴格要求的應用場景，如金融、政府與醫療等產業領域。

目前GitHub Copilot Extension對所有GitHub使用者免費開放，開發者只需登入帳號、安裝擴充套件，即可立即開始使用。Arm團隊也持續更新內部的技術資料庫與學習內容，確保Copilot回應內容與時俱進，貼近實務應用需求。

Ubuntu x Arm：提供長期、穩定的企業級OS支援

除了豐富的內部資源，Arm亦有陣容堅強的軟體生態系夥伴，從各個層面為橫跨不同垂直產業領域的應用提供解決方案，其中包括Linux的衍生版本、目前支援許多邊緣AI推論應用的開源作業系統Ubuntu；其發行商Canonical的業務總監CS Chiang詳盡介紹了Ubuntu與Arm在企業支援領域的長期合作。

他指出，與傳統Linux發行版不同，Ubuntu 特別重視IoT與邊緣裝置的需求，提供持續12年的長期支援版本(LTS)，讓開發者在維護週期長的嵌入式或網通設備中無後顧之憂。Canonical 亦強調其與全球晶片供應商的深度整合，像是MediaTek等合作夥伴，都能確保每一次kernel更新都能即時支援對應硬體，確保開發與部署不中斷。

隨著歐盟將實施的CRA（Cyber Resilience Act）法規，IoT裝置將被強制要求能夠長期安全更新。透過商業授權與 OTA 機制，Ubuntu可協助客戶符合法規要求，減少開發者自行維護風險。此外，Canonical 與硬體製造商合作進行板卡認證，確保每一次作業系統與安全性更新都能與裝置硬體無縫接軌，真正實現企業級可靠性。

Arm強調，成功的雲端平台不僅仰賴硬體IP，更需要穩健的生態系支撐。從半導體設計、板卡整合、軟體部署到開發者社群，Arm歡迎更多開發者加入Developer Program及 Ambassador計畫，共同為技術的演進與創新貢獻力量、共享成果。

歡迎加入 Arm 開發人員計畫，讓 Arm 協助您擴展技能、人脈網絡，一起建構未來! 請點此報名：連結