|

【Qualcomm Inside】12TOPS Edge AI單板RUBIK Pi規格剖析

   

作者:陸向陽

圖1 Thundercomm公司的RUBIK Pi單板電腦(圖片來源:Thundercomm官網)

此前8月份Particle公司推出一片名為Tachyon單板電腦,採用Qualcomm為其主控晶片,該單板具有12TOPS的AI推論效能,而10月又有一款單板電腦使用Qualcomm晶片,即Thundercomm公司的RUBIK Pi,使用的是Qualcomm QCS6490。

RUBIK Pi從名稱上很明顯有與Raspberry Pi一別苗頭的意味,或有「蹭」的意味,類似過去常見的Raspberry Pi Alternative,但這次不一樣的是,推出該板的Thundercomm公司其實是Qualcomm與ThunderSoft兩業者於2016年所合資成立的。

RUBIK Pi單板硬體規格

RUBIK Pi單板上的Qualcomm QCS6490晶片其實是先行以模組化構裝後才與單板結合,主要是因為Thundercomm公司本身也有單獨在賣晶片模組,便於其他板卡商運用。Qualcomm QCS6490內的CPU為Qualcomm Kryo 670,GPU則是Qualcomm Adreno 643L,並且有AI加速處理器Qualcomm Hexagon 770。

更具體說,Kyro 670類同於4個Arm Cortex-A78與4個Cortex-A55,不過在這裡只有一個Coretx-A78跑到最高速的2.8GHz,其餘相對低頻;GPU Adreno 643L速度則為821MHz;至於Hexagon 700才是本次的主要重點,它能帶來12TOPS(官網寫12.5TOPS,差異不大)的AI推論效能,使RUBIK Pi單板能實現AI、ML、CV(電腦視覺)等應用的推論運算。

圖2 Qualcomm QCS6490晶片內的主要功能(圖片來源:Qualcomm官網)

至於記憶體則為8GB的LPDDR 4x,儲存則是直接在板子上焊有128GB快閃記憶體。另外RUBIK Pi的許多設計都可以看到RPi的影子,例如與RPi 5一樣也是有即時鐘(Real-Time Clock, RTC)外接電池的連接器,也是與各款RPi一樣具有兩排的GPIO接腳等,官方網站網頁上直接表明RUBIK Pi相容各種現有RPi的週邊硬體板卡。

硬體設計相關比較

進一步的,RUBIK Pi若與最前頭提到的Tachyon單板電腦相比,兩者比較大的差異是RUBIK Pi沒有5G通訊功能,其他方面差異不大,包含都具備Wi-Fi、BLE,AI推論效能也都在12TOPS左右,與RPi加搭上AI Kit後的推論效能相去不遠,AI Kit約13TOPS。

也由於12~13TOPS不是很強大的推論效能(AI PC最低要求是40TOPS),所以官網也附帶提及「可佈署1.8B參數」的大語言模型(LLM),言下之意如果模型的參數大於18億個,有可能推論時間過久,會讓人不耐,失去實用性。

至於RUBIK Pi與真正的RPi相比也還是有一些差異,RUBIK Pi有提供DP(DisplayPort)的視訊輸出介面,這是RPi缺乏的,且RUBIK Pi依然使用標準HDMI視訊輸出介面,然而近期的RPi已改用Micro HDMI介面,導致多數狀況下要額外準備轉接器,RUBIK Pi能省去轉接器是其優點。此外,近期的RPi已廢除3.5mm音訊輸出(耳機孔),這點在RUBIK Pi卻依然保留。

由此可知,RUBIK Pi在人機介面連接器規格選定上仍是比較貼近今日普遍常見的,較為實務,而非如RPi般的大膽前衛,RPi為了短小輕薄而改變大宗運用的連接器或廢除連接器,這點與Apple產品有些相似。

當然!RPi 5開始為了避免週邊電路的運作傳輸成為整體單板電腦的效能瓶頸,額外引入了RP1的週邊晶片,這是目前Qualcomm方面尚未採行的作法,不過若基準測試(benchmark)或實務使用上感受不到瓶頸,也不一定要採行額外專屬週邊晶片的設計,仍可保持原有的系統單晶片(SoC)設計。

軟體支援

Thundercomm公司既然是由ThunderSoft與Qualcomm所合資成立,所以Thundercomm的各種模組、板卡一律使用Qualcomm的晶片,軟體方面則盡可能支援呼應ThunderSoft的技術,如作業系統、產業自動化與智慧化應用程式等。更簡單地說,Thundercomm的主務便是在設計、製造、銷售硬體開發套件,透過套件來協助推展Qualcomm的晶片、ThunderSoft的軟體。

不過,RUBIK Pi還是有更廣泛性的軟體支援,不僅支援ThunderSoft自家開發的作業系統,也支援Windows、Android、Linux等,同時也包含Qualcomm自己官方推行的Qualcomm Linux,Qualcomm Linux高度著重於IoT應用,且對核心程式提供長期性的支援服務(Long-Term Support, LTS),長期性支援服務是產業實務應用上非常注重的。

圖3 Qualcomm Linux軟體架構圖(圖片來源:Qualcomm官網)

結語

最後,看來近期新推行的單板電腦都必須標榜點AI硬體加速能力,都開始強調其TOPS數推論效能,好因應可能的Edge AI應用需要,且不一定是用於電腦視覺(CV)的AI應用,甚至可用於大語言模型(屬自然語言處理NLP領域)應用,但必須是參數量大幅縮減版的大語言模型。

單板電腦很大的潛在應用設想是IoT閘道器,只是閘道器是單純暫存、轉傳感測器遞送來的資料,還是立即作資料分析(屬資料科學DS領域),或者是進行AI推論等。

歸結而言,近期的單板電腦找到新的規格經濟方向與路線,值得創客們持續關注,並將其用來發創、實現各種專案。

(責任編輯:謝嘉洵。)

陸向陽
陸向陽

Author: 陸向陽

從電子科系畢業後,即以媒體人的角色繼續這段與「電子科技」的不解之緣。歷任電子技術專書作者、電子媒體記者、分析師等角色,並持續寫作不殆。近來投入Arduino、Raspberry Pi等開放硬體的研究與教程介紹。

Share This Post On

Submit a Comment

發佈留言必須填寫的電子郵件地址不會公開。 必填欄位標示為 *