陸向陽 | MakerPRO

10 月06

創客AI特技：免CPU與OS跑神經網路、老伺服器跑LLM、Claude傳呼機

Paracha用MNIST的資料集（或稱數據集）以及PyTorch來訓練模型，模型可以識別28 x 28解析度的圖片，並有32層隱藏層，能識別0～9的阿拉伯數字筆跡，訓練出的模型具有25,888個權重參數。

10 月02

YouTube上Dsn Industries嘗試將1.35億個參數量的LLM跑在只有10美元的MCU上，更具體而言是一片具有ESP32-S3晶片的開發板。

9 月03

Vibe Coding讓寫程式更便利，而Maker針對Vibe Coding開發出各種更專精、更簡易的互動操作週邊裝置，反過來也讓Vibe Coding更便利。

9 月02

近期就有兩則以MCU、SBC執行LLM的技術嘗試，一是用只有8美元的ESP32-S3 MCU來跑2,890萬個參數的Gemma模型，另一是用RPi 5 SBC來跑大語言模型，但卻是以裸機（Bare Metal）方式來跑，以下分別更深入說明。

7 月29

北京月之暗面（Moonshot AI）在7月份發佈其最新的大語言模型Kimi K3，該模型因為有2800B（或寫2.8T，T為Trillion，台灣稱為2.8兆，大陸稱為2.8萬億）的龐大參數量而受到矚目。

6 月29

本文比較NVIDIA、Apple與AMD多款方案的效能、記憶體與價格效能比，解析最佳選擇。