Choose “Save as PDF” as the destination to download this doc.

Back to the doc
MakerPRO

AI運算雲平台比較:NVIDIA vs. Intel vs. Qualcomm

AI Deployment  ·  https://makerpro.cc/docs/ai-cloud-computing-platforms-about-nvidia-vs-intel-vs-qualcomm/

AI的運算少不了運算硬體的支援,而為了拓展自家運算硬體的AI市場,包括NVIDIA、Intel及Qualcomm等大廠都建立了自己的AI雲服務平台,本文將針對這三家提供的雲平台進行定位與應用場景進行比較,有不同需求可選擇適合的平台來部署自己的 AI 應用。

NVIDIA DGX Cloud

身為AI運算高階硬體代表,NVIDIA提供多種雲服務平台,包括NVIDIA DGX Cloud、NVIDIA AI Enterprise、NVIDIA NGC等,本文僅探討NVIDIA DGX Cloud的特色與定位。

簡單地說,DGX是採用H100 / A100 GPU 超級電腦運算架構來訓練AI,並支援多節點分佈式訓練,因此適合 GPT-4、BERT、DALL·E 等大規模 AI 訓練。不過,此平台的運算成本不低,比較適合大企業、雲端 AI 研究機構,小型 AI 應用可選擇其他服務。

Source

主要服務內容(資料來源):

Intel Tiber AI Cloud

Intel在AI領域也耕耘多時,其AI代表工具為推出多年的OpenVINO Toolkit,過去配套提供DevCloud雲平台給開發者使用(見本文介紹),目前則主打Intel Tiber AI Cloud,其定位是:「使用最新的Intel Core Ultra、Xeon處理器、Intel Gaudi人工智慧加速器和 GPU 運算,並針對Intel優化的軟體來加速人工智慧開發。」

此平台提供Intel Gaudi AI 加速器 + Xeon CPU 提供混合運算能力,並整合 OpenVINO,可優化 CV(電腦視覺)、NLP(自然語言處理)及當紅的LLM、生成式AI或多模態等 AI 應用,旨在為 AI 初創企業和大型企業提供具成本效益且可擴展的 AI 優化運算資源。

Source

主要服務內容(資料來源):

Qualcomm Device Cloud

Qualcomm Device Cloud 是一個遠端測試平台,讓開發者能夠在最新的 Qualcomm 平台上測試應用程式,包括智慧型手機、平板電腦、筆記型電腦、物聯網裝置和汽車系統。

Source

主要服務內容(資料來源):

三個AI雲平台的主要應用場景比較如下:

製表查詢:ChatGPT

如何選擇?

如果你的應用需要高性能 AI 訓練(如 GPT-4、深度學習模型),NVIDIA DGX Cloud 是最佳選擇;如果你的 AI 部署主要針對企業 AI 推理,並且使用 x86 架構,可考慮選擇 Intel Tiber AI Cloud。如果你的應用涉及 5G AI 設備、IoT、智慧邊緣運算,則 Qualcomm Device Cloud 更適合。

(責任編輯:歐敏銓)