|

樹莓派也能「養龍蝦」!

   

作者:陸向陽

近期掀起的養龍蝦(OpenClaw)風潮不僅炒熱了Mac mini的銷售,許多單板電腦、AI個人電腦也緊隨其後,而創客圈最普遍使用的單板電腦樹莓派也確定跟風加入。

關於此,樹莓派官網上已有人分享用樹莓派安裝與執行OpenClaw的方法與經驗,OpenClaw本來就以Linux為主要安裝環境,故在樹莓派的作業系統Raspberry Pi OS中只要開啟終端機並下指令,便可線上自動下載與安裝OpenClaw。

分享者是在RPi 5上安裝,但如果是RPi 4,只要記憶體達8GB也是可以安裝,然後在RPi 5上也安裝VPN軟體Tailscale(走WireGuard協定),Tailscale可以OpenClaw整合運作。

另外也把在OpenAI上申請到的API金鑰交給OpenClaw,意思是RPi 5雖然安裝OpenClaw,但這裡並沒有在RPi 5上對應安裝本機端LLM大語言模型(通常是使用Ollama),而是呼叫OpenAI雲端的LLM服務來運作。

值得一提的是,在Linux(Raspberry Pi OS是基於Debian Linux)上的OpenClaw可以有比較多的系統涉入,Mac則可以更多更深,Windows則最少,而在Windows上安裝,可以是原生Windows安裝,也可以是在Windows內建的Linux子系統(WSL)上安裝,後者更接近在Linux環境下安裝。

分享者在一台RPi 5上安裝完OpenClaw後,又準備另一台RPi 5並裝上攝影機,然後把這台有攝影機的RPi 5的登入帳密交給裝有OpenClaw的RPi 5,之後OpenClaw便可透過SSH(Secure Shell)去操控具有攝影機的RPi 5。

完成初始裝設後分享者用英語對OpenClaw發話,OpenClaw便對攝影機、攝影機對應的相簿應用程式等進行各種操控,例如更換相簿的字體、字體置中等,也能用來建立新的檔案或網頁,甚至建立分享的下載點、設定管理員權限等,都是透過語音實現,而非自己打字下命令。

圖1 在RPi 5安裝與執行OpenClaw來操控相簿應用程式(圖片來源:樹莓派官網)

建議的軟硬體配置

雖然上述可以運作,但為了運作的快速與流暢,分享者建議用比較快的MicroSD卡來跑會比較好,或者是把Raspberry Pi OS與OpenClaw轉移到M.2 HAT+轉接板上的SSD固態硬碟去跑會更理想,但這招只適用於RPi 5,RPi 4沒有M.2 HAT+轉接板。

若真的要轉移,其實Raspberry Pi OS內有一個工具程式可以使用,即SD Card Copier,該程式其實可以將目前執行的Raspberry Pi OS任意轉換,不僅能MicroSD轉MicroSD,也可以轉USB隨身碟或SSD固態硬碟。

另外,即便是RPi 5其AI硬體加速性能也是有限的,所以還是建議盡量呼叫雲端的LLM來執行OpenClaw,但這並不代表本機端不能裝,其實也是可以安裝Ollama或其他本機端LLM軟體,如llama.cpp、LocalAI等。

不過,如此也只能跑相對少參數的LLM,模型會比較笨,跟不上時時更新的雲端LLM,執行速度與反應等也都會比較慢,分享者建議這只有在網路不通時當一個備援機制。

初階、平價RPi須使用PicoClaw

以上是RPi 5或頂規RPi 4的玩法,但過去或入門級的RPi無法如上述般下載與執行OpenClaw,如RPi 3或Raspberry Pi Zero系列等,只能改用PicoClaw。使用RPi 3、Raspberry Pi Zero系列等目前也有一個好處,因為這些板卡不是使用LPDDR4記憶體(全球三大記憶體廠都忙於生產AI GPU晶片需要搭配的HBM記憶體,從而排擠正規DDR4相關記憶體的產能),比較不受目前記憶體缺貨漲價的影響。分享者也實際安裝與使用PicoClaw,並且只用30秒就完成一個測試網頁。

PicoClaw比OpenClaw更輕量,基本上已經不能用本機端LLM來運作,就算可以也是慢到非常不務實(命令下了之後,數分鐘後才有反應或動作),或因為使用極少參數的模型而變成非常笨,故必須比RPi 4/5更倚賴雲端LLM來運作。

圖2 在樹莓派上安裝、執行PicoClaw後產生的試驗性網頁(圖片來源:樹莓派官網)

結語

最後,其實真的在Mac/Windows/Linux上安裝與執行xClaw,除非是真的很高規的硬體,如Mac Studio、NVIDIA DGX Spark/Station、AMD Ryzen AI Halo等,才可能真的全然倚仗本機端LLM,否則很大程度還是會呼叫雲端LLM來運作。

所以,即便RPi 4/5也安裝OpenClaw,也是不容易全然用本機端LLM,但可能也沒有必要去用極度輕量的PicoClaw,畢竟OpenClaw的生態系較完整強健,後續的改版更新速度也較快,除非真的硬體限制,是沒有必要去用PicoClaw的。

值得注意的是,近期NVIDIA的技術年會GTC(GPU Technology Conference)上,NVIDIA提出對OpenClaw進行資安補強的NemoClaw,或許能讓還在因資安顧慮而對OpenClaw抱持觀望的人能加速擁抱OpenClaw,然其成效如何有待觀察了。

 

陸向陽

訂閱MakerPRO知識充電報

與40000位開發者一同掌握科技創新的技術資訊!

Author: 陸向陽

從電子科系畢業後,即以媒體人的角色繼續這段與「電子科技」的不解之緣。歷任電子技術專書作者、電子媒體記者、分析師等角色,並持續寫作不殆。近來投入Arduino、Raspberry Pi等開放硬體的研究與教程介紹。

Share This Post On

Submit a Comment

發佈留言必須填寫的電子郵件地址不會公開。 必填欄位標示為 *