【Edge AI加速卡】US$399的Jetson Xavier NX值得下手買進?

作者:陸向陽

從 Jetson Nano 升級成 Jetson Xavier NX 的代價是墊高成本價格,從 129 美元增加到 399 美元,但若以每一美元獲得的運算力效能而言,新款的 Jetson Xavier NX 會比 Jetson Nano 划算。

2019 年 3 月 NVIDIA 發表 Jetson Nano 的嵌入式人工智慧加速模組卡,一時間成為熱門話題,Jetson Nano 比過去 NVIDIA 的 Jetson 系列模組卡(此指 Jetson TX1、TX2、AGX Xavier)體積更小、更省電,而且更便宜:它只有 45 x 70 mm(公釐)長寬,比之前的 50 x 87 mm、100 x 87 mm 小;電能只要 5 瓦、10 瓦,而不是 15 瓦、30瓦;入手價甚至只要 99 美元(開發套件)或 129 美元,而不是 299、399、1,099 美元。

NVIDIA Jetson 家族圖(圖片來源:NVIDIA Developer

體積、用電、價格均降低的結果當然會使人工智慧運算效能降低,Jetson Nano 在 16 位元浮點運算(FP16)上的效能約 472 GFLOPS(約 0.5 TFLOPS),無法與之前的系列動輒 1 TFLOPS、1.3 TFLOPS或 11 TFLOPS 相比,但即便如此依然相當吸引人!因為其對一些簡單的人工智慧應用已是足夠。

NVIDIA 官方也把 Jetson Nano 的應用想定設在三個領域,一是視訊攝影機(可智慧判別是否為熟人或有外人闖入),二是機器人(地形景物的判別),三是智慧閘道器(對有線或無線的傳輸通信數據進行智慧判別)。

Jetson Xavier NX 2020年3月登場

雖然 Jetson Nano 是在 3 月發表,正式供貨卻是到 8 月,8 月供貨後到了 11 月 NVIDIA 又發表了新一款的 Jetson Xavier NX,腳位和尺寸都與 Jetson Nano 相仿,都是 260-pin 以及 45 x 70 mm,並預告 2020年 3 月正式供貨,這樣創客到底是該現在就買 Jetson Nano 還是等 Jetson Xavier NX 呢?

NVIDIA Jetson Xavier NX 人工智慧加速模組卡(圖片來源:NVIDIA Developer

規格差異比較

對此必須先比較一下 Jetson Nano 與 Jetson Xavier NX 的異同處,相同的部份已如上述,但不同的地方在於其效能、用電與價格。效能上 Xavier NX 強調的是 8 位元整數(INT8),運算時有 14 TOPS、21 TOPS 的水準,但是 Jetson Nano 沒有專門的 INT8 運算電路設計,無法直接齊頭比較。

不過或許可用比例方式推算,筆者推測 Jetson Xavier NX 是原有 Jetson AGX Xavier 的衍生變種(降規),如同 Jetson Nano 是 Jetson TX1 的衍生變種般,原有 Jetson AGX Xavier 在 INT8 上的效能是32 TOPS,如此 Jetson Xavier NX 的 FP 16 估計在 4.8 TFLOPS(800 MHz 版)~7.2 TFLOPS(1.1 GHz版),比 0.5 TFLOPS 的 Jetson Nano 快上數倍。

在用電上,800 MHz 版的 Jetson Xavier NX 約 10 瓦,與 129 美元的正式版 Jetson Nano 相同,1.2 GHz版的 Jetson Xavier NX 則為 15 瓦,多出了約 50 % 的用電;至於價格,NVIDIA 目前只預告入手價位是 399 美元,筆者推估這應該是 800 MHz 版的價位,1.1 GHz 版的應該會更高。

NVIDIA Jetson Nano 與 Jetson Xavier NX 的比較(圖片來源:陸向陽整理)

選擇評估參考方向

透過上述可以了解,如果您已經用 10 瓦版的 Jetson Nano 設計出人工智慧的應用系統或產品,為了提高效能是可以直接升級成使用 800 MHz 版的 Jetson Xavier NX,但 1.1 GHz 版可能就有需要重新檢視供電、散熱設計等,必要時可能要變更調整設計。

比名片還小的Jetson Xavier NX(參考資料

而升級成 Jetson Xavier NX 的代價是墊高成本價格,從 129 美元增加到 399 美元,以每一美元獲得的運算力效能而言,新款的 Jetson Xavier NX 會比 Jetson Nano 划算,但應用設計上是否需要更高的效能或未來是否會耗用到更多效能(例如重新訓練人工智慧模型或變更演算法等),就有必要評估判斷或取捨了,也有可能 Jetson Nano 提供的效能綽綽有餘,即便未來耗用更多效能仍然餘裕因應,其實也沒有必要升級使用或等待 Jetson Xavier NX。

至於完全還沒用 Jetson Nano、Jetson Xavier NX 的創客,可以一起頭就把人工智慧應用系統設計成 15 瓦的供電與散熱,這樣未來還有機會升級到 1.1 GHz 版的 Jetson Xavier NX,而且初期為人工智慧模型尚不複雜時,只要在系統上安裝配置 Jetson Nano 即可,可省下成本。

其他規格差異

Jetson Xavier NX 與 Jetson Nano 的其他規格差異還有核心的不同,AI 加速電路方面後者改用 Volta 微架構,前者為 Maxwell;CPU 核心方面後者使用 NVIDIA 自主研發的 Carmel,前者使用 Arm 標準的Cortex-A57,並強調有 6 MB 第二階快取記憶體(L2 Cache)、4 MB 第三階快取記憶體(L3 Cache)。

Jetson Xavier NX採用Volta微架構,此為其處理器引擎架構圖(參考資料

記憶體方面 Jetson Xavier NX 將規格與資源加倍,為 8 GB 容量、128 位元資料匯流排寬度、LPDDR4 記憶體,時脈頻率一樣是 1.6 GHz,如此理論上的整體資料傳輸率為 51.2 GB/Sec,高於 Jetson Nano 的 4 GB、64 位元、25.6 GB/Sec 傳輸率,不過記憶體類型兩者均維持使用 LPDDR4(LP 指低功耗 Low Power 之意),至於儲存方面 Jetson Xavier NX 與 Jetson Nano 完全相同,維持 16 GB eMMC 5.1 的容量與規格。

最後,既然 Jetson Xavier NX 支援 INT8 格式,那麼與其他也支援 INT8 格式的加速晶片比較會是如何?以 Google Edge TPU 而言,其擁有 4 TOPS 效能、2 瓦用電,以每瓦效能(Per Watt Performance)角度檢視為 2TOPS/Watt,另外華為的 Ascend 310 則為 16 TOPS、8瓦,每瓦效能也約 2 TOPS/Watt,新創業者 Halio 宣稱其 Halio-8 具 26 TOPS 潛能,實際基準測試為 4.676 TOPS、1.67 瓦,即 2.8 TOPS/Watt。

相較之下 Jetson Xavier NX 好似只有 1.4 TOPS/Watt,但其實這是以整張模組卡的用電來計算,然上述是單純的晶片本體功耗,因此難齊頭比較,但估計每瓦效能上,Jetson Xavier NX 不會落差太多,而且其具有更完整的軟體支援、更大的極限效能,這些都讓 Jetson 系列在市場上居有力價值的位置。

(責任編輯:賴佩萱)

陸向陽

從電子科系畢業後,即以媒體人的角色繼續這段與「電子科技」的不解之緣。歷任電子技術專書作者、電子媒體記者、分析師等角色,並持續寫作不殆。近來投入Arduino、Raspberry Pi等開放硬體的研究與教程介紹。
陸向陽

Author: 陸向陽

從電子科系畢業後,即以媒體人的角色繼續這段與「電子科技」的不解之緣。歷任電子技術專書作者、電子媒體記者、分析師等角色,並持續寫作不殆。近來投入Arduino、Raspberry Pi等開放硬體的研究與教程介紹。

Share This Post On

Submit a Comment

發佈留言必須填寫的電子郵件地址不會公開。 必填欄位標示為 *