|

AI運算雲平台比較:NVIDIA vs. Intel vs. Qualcomm

   

文章導覽

AI的運算少不了運算硬體的支援,而為了拓展自家運算硬體的AI市場,包括NVIDIA、Intel及Qualcomm等大廠都建立了自己的AI雲服務平台,本文將針對這三家提供的雲平台進行定位與應用場景進行比較,有不同需求可選擇適合的平台來部署自己的 AI 應用。

NVIDIA DGX Cloud

身為AI運算高階硬體代表,NVIDIA提供多種雲服務平台,包括NVIDIA DGX CloudNVIDIA AI EnterpriseNVIDIA NGC等,本文僅探討NVIDIA DGX Cloud的特色與定位。

簡單地說,DGX是採用H100 / A100 GPU 超級電腦運算架構來訓練AI,並支援多節點分佈式訓練,因此適合 GPT-4、BERT、DALL·E 等大規模 AI 訓練。不過,此平台的運算成本不低,比較適合大企業、雲端 AI 研究機構,小型 AI 應用可選擇其他服務。

主要服務內容(資料來源):

  • 高性能運算資源:DGX Cloud 提供多節點 AI 訓練即服務解決方案,整合了針對企業 AI 的獨特需求進行優化的 DGX 基礎設施。這些資源可用於訓練大型語言模型(LLM)等高需求的 AI 工作負載。

  • 靈活的部署選項:企業可以選擇在雲端或本地部署 DGX 平台,滿足不同的業務需求。這種靈活性使企業能夠根據自身情況選擇最適合的部署方式。

  • 合作夥伴生態系統:NVIDIA 與多家雲服務提供商合作,提供經過共同設計的加速運算叢集,這些叢集經過優化以在各自的雲平台上運行。這些合作夥伴包括 Google Cloud、Microsoft Azure 和 Oracle Cloud Infrastructure 等。

Intel Tiber AI Cloud

Intel在AI領域也耕耘多時,其AI代表工具為推出多年的OpenVINO Toolkit,過去配套提供DevCloud雲平台給開發者使用(見本文介紹),目前則主打Intel Tiber AI Cloud,其定位是:「使用最新的Intel Core Ultra、Xeon處理器、Intel Gaudi人工智慧加速器和 GPU 運算,並針對Intel優化的軟體來加速人工智慧開發。」

此平台提供Intel Gaudi AI 加速器 + Xeon CPU 提供混合運算能力,並整合 OpenVINO,可優化 CV(電腦視覺)、NLP(自然語言處理)及當紅的LLM、生成式AI或多模態等 AI 應用,旨在為 AI 初創企業和大型企業提供具成本效益且可擴展的 AI 優化運算資源。

主要服務內容(資料來源):

  • AI 優化計算資源:用戶可啟動單一節點或包含多個 Intel Gaudi AI 處理器、Intel Max GPU 和 Xeon 處理器的叢集,以滿足不同的 AI 訓練和推理需求。

  • 企業級服務:平台提供安全且合規的私有雲選項,支持完全隔離和自訂的叢集部署,滿足企業對資料安全和合規性的要求。

  • 專業支援:提供 24/7 的技術支援,協助用戶進行大型語言模型(LLM)的優化,加速 AI 部署的過程。

Qualcomm Device Cloud

Qualcomm Device Cloud 是一個遠端測試平台,讓開發者能夠在最新的 Qualcomm 平台上測試應用程式,包括智慧型手機、平板電腦、筆記型電腦、物聯網裝置和汽車系統。

主要服務內容(資料來源):

  • 自動化測試:支援多種自動化測試框架,開發者可以在平台上執行自動化測試,提升測試效率。

  • 互動式測試:提供即時互動測試功能,允許開發者遠端操作裝置,進行即時測試和調試。

  • 多樣化裝置支援:平台涵蓋多種裝置類型,包括行動裝置、計算設備、物聯網裝置和汽車系統,滿足不同測試需求。

  • 虛擬系統單晶片(vSoC):特別針對汽車開發,提供虛擬 SoC,允許開發者在硬體不可用時,在雲端環境中模擬和測試汽車系統。

  • 安全性:所有裝置都在 Qualcomm 雲端網路中受到保護,確保測試環境的安全性和可靠性。

三個AI雲平台的主要應用場景比較如下:

製表查詢:ChatGPT

如何選擇?

如果你的應用需要高性能 AI 訓練(如 GPT-4、深度學習模型),NVIDIA DGX Cloud 是最佳選擇;如果你的 AI 部署主要針對企業 AI 推理,並且使用 x86 架構,可考慮選擇 Intel Tiber AI Cloud。如果你的應用涉及 5G AI 設備、IoT、智慧邊緣運算,則 Qualcomm Device Cloud 更適合。

(責任編輯:歐敏銓)

MakerPRO編輯部
MakerPRO編輯部

Author: MakerPRO編輯部

MakerPRO.cc為華人圈最專注於Maker創新創業、物聯網及共享經濟報導及共筆發表的專業媒體,不論是趨勢分析與評論,或創新實作文章,在華文創新創業媒體領域都具有重要的影響力。

Share This Post On

Submit a Comment

發佈留言必須填寫的電子郵件地址不會公開。 必填欄位標示為 *