作者：陸向陽
圖1 Akida Edge AI Box（左）與意境性的AKD1000晶片（右）（圖片來源：brainchip）
BrainChip是一家澳洲科技公司，公司的本務是設計與銷售AI加速電路，鎖定的目標客戶是晶片商，期望晶片商採用BrainChip開發的AI硬體加速電路設計，並支付技術授權費，以及之後晶片量產時的權利金等，經營模式類似於知名的安謀（Arm）。
為了加速晶片商評估與採行該公司的加速電路設計，BrainChip其實也推出Akida1000 Ref SoC（簡稱AKD1000），是一顆參考性的系統單晶片，晶片內的主體即是BrainChip的AI加速電路，該電路稱為Akida。
所謂參考性是指這並非BrainChip公司的主業務，只是技術示範、方便潛在買家評估該公司的技術而已，沒有意思要大量生產銷售該晶片。（BrainChip官方強調該晶片使用台積電28nm製程）
圖2 AKD1000晶片內部主要功能（圖片來源：brainchip）
不過，BrainChip公司似乎覺得還做的不夠，應該要讓更多終端的AI應用開發者有機會接觸到BrainChip的技術，體會其優點與價值，進而有利於推廣其技術授權業務。因此，BrainChip公司與VVDN Technologies公司（軟硬體設計製造服務商）合作，推出了Akida Edge AI Box。
Akida Edge AI Box
Akida Edge AI Box是一個完整電腦，有電路板、有機殼，裡頭配備2顆前述的AKD1000，然而AKD1000畢竟以AI加速為主務，內部的控制處理單元偏弱，故整體系統還是需要一顆主控晶片，對此VVDN用上一顆NXP公司的i.MX 8M Plus處理器晶片。為了讓AI運算儘可能快速，AKD1000具備PCI Express介面，用該介面與i.MX 8M Plus處理器晶片連通。
值得注意的是，其實BrainChip已經有第二代的Akida加速電路，但還沒有被做成Ref SoC，也就沒有用在Akida Edge AI Box內。第二代加速電路具有一些新特點，例如以事件為基礎的時間性神經網路（Temporal Event-based Neural Nets, TRNNs），或是視覺轉換（Vision Transformer, ViT）等。
除了參考性晶片外，BrainChip也有提供其他技術配套，例如推出名為MetaTF的軟體開發環境，可以轉換現成的TensorFlow模型、建立與訓練新模型、把CNN轉換成SNN等，也提供轉換後的軟體執行環境，稱為Akida Runtime。
而為了推行Akida Edge AI Box，BrainChip如同MetaTF般再次跨足軟體領域，承諾會推出以Linux 6.1核心為基礎的作業系統給Akida Edge AI Box使用，同時也提供多個Edge AI的示範應用程式，讓潛在想開發Edge AI的工程師更快評估與運用BrainChip的電路技術。
圖3 MetaTF開發工具、環境功能示意圖（圖片來源：BrainChip）
至於VVDN方面也在Akida Edge AI Box的系統設計上用心，例如該機完全用散熱片的被動散熱，較主動式的電動風扇散熱來的省電、穩定、省成本、安靜。
另外Akida Edge AI Box有一個USB 3.0 Type-A的介面與一個Micro-USB介面，可以用來更新韌體或除錯；然後有一個HDMI視訊輸出、4GB LPDDR記憶體、32GB的eMMC儲存空間，外加Micro-SDXC規格的插卡槽，最高可接入1TB容量的記憶卡；然後有兩組Wi-Fi無線網路、兩組GbE有線網路，VVDN表示GbE主要用來連接攝影機，但基本銷售並不包含攝影機。
在供電方面Akida Edge AI Box使用12V直流電源，就算官方沒有附贈供電器或供電器壞去，也可以輕易找到替代的變壓器。
Akida Edge AI Box硬體選擇
最後有兩點要說明，一是Akida Edge AI Box早在2023年12月就預告，二月份也只是開放預購，正式發售初步推測要到2024年7月，具體出貨時間會在四月告知，目前價格799美元。
二是Akida Edge AI Box在BrainChip眼中，只能視為Akida Enablement Platforms的一個成員硬體，其他成員硬體還有Akida PCIe Board、Akida Development Kit Shuttle PC以及Akida Development Kit Raspberry Pi。
更簡單說，想要評估BrainChip技術的軟體開發者有四種硬體可選，開放預購中的Akida Edge AI Box是四種之一，事實上Akida Edge AI Box與Akida Development Kit Raspberry Pi相近，差別是Akida Development Kit Raspberry Pi是加裝一張Akida PCIe Board，具備一顆加速晶片，而Akida Edge AI Box則配置兩顆在系統電路板上，加速性更高，且整個機體比較緊湊、嬌小。
此外，光一張Akida PCIe Board就要499美元，且目前（二月下旬）Akida Development Kit Shuttle PC與Akida Development Kit Raspberry Pi都已經完售，如此看來799美元的Akida Edge AI Box就相當吸引人。
圖4 配備一顆AKD1000晶片的PCIe Board要價499美元，Akida Edge AI Box配備兩顆則是799美元（圖片來源：brainchip）
小結
筆者認為Akida Edge AI Box最適合的角色就是IoT閘道器，除了用來傳遞、轉換、暫存感測器上傳的資料外，也對感測資料進行立即AI推論研判，即發揮Edge AI功效，但相信除此之外還有更多的妙用可能，端看極富創意的創客們如何發揮了。
（責任編輯：謝嘉洵。）
- LLM/GenAI的回答會造成危害嗎？MLCommons提出衡量規範草案 - 2024/04/22
- 致敬？回敬？繼NVIDIA Chat with RTX後AMD亦推行LLM Studio - 2024/03/27
- 推探Google開源、輕量級大型語言模型Gemma - 2024/03/21
