作者:陸向陽
打從2022年11月ChatGPT開放公眾使用後,隨即掀起一股大型語言模型(Large Language Model, LLM)風潮,乃至生成式人工智慧(Generative Artificial Intelligence, GenAI)風潮,不過AI似乎有極大化與極小化的兩線發展,小型化發展即是以AIoT為起點開始衍生出Edge AI、TinyML等,特別是TinyML,必須在有限的運算力、電力、成本、體積下實現AI,極具工程精進挑戰。
對此有一名IoT開發工程師Jon Nordby發起一個案子,期望實現只需1美元(以料件成本而言)的TinyML感測器開發板,以此刷新TinyML的低成本紀錄,專案名稱姑且就叫1 dollar TinyML。
硬體組成分析
目前這個專案的第一版(Revision 1)電路設計中有一顆PY32F003主控晶片,為上海普冉(Puya)半導體公司出品,其核心為Cortex-M0+;然後有一顆我國盛群半導體(Holtek)的BC7161晶片,該晶片是一顆藍牙Beacon發送器晶片。有趣的是,主控晶片約是15美分,藍牙發送器晶片則是20美分,比主控晶片還貴一些。
電路的核心由這兩顆晶片所構成,Jon Nordby以此為基礎分別提出兩個板子的構想,一是動作感測器電路板,另一是聲音感測器電路板,前者在兩顆晶片外再搭配STMicro(意法半導體)的LIS2DH(或LIS3DH)加速度感測器(accelerator);後者沒有加速度感測器,改配置一個麥克風並搭配若干運算放大器(opamp)。
同樣有趣的,加速度感測器與麥克風都是運用微機電系統(MEMS)技術製做而成,但加速度感測器用的是數位技術,麥克風用的則是類比(analog)技術。
至於感測器的成本,加速度感測器約30美分,比主控晶片、發送器晶片都貴一些;麥克風與運算放大器等則為20美分,與發送器價格相當,但也是比主控晶片略貴。
兩片感測器板子在感測上的配置不同外,其他方面大體相同,例如都有R紅、G綠、B藍、W白顏色的LED燈號;都有SPI介面的NOR型Flash快閃記憶體以便用來儲存主控晶片的控制程式(韌體);都有都使用鋰電池(例如LIR1220型鈕扣電池)運作,或可以用USB Type A供電運作,以及用其給鋰電池充電等。
到這裡簡單估算一下成本,加速度感測器板15+20+30約65美分,聲音感測器板15+20+20約55美分,其他林林總總考慮進去仍可能壓在90美分左右,而發起人Jon Nordby表示只要產製個幾百片,就有可能讓每片低於1美元,如果不要電池或感測器等則可能再低一些。
談完硬體後其實也要談軟體,1 dollar TinyML直接相容emlearn,這是給微控制器或嵌入式系統使用的一套機器學習軟體,開發者可以在一般中大型系統上使用Python程式語言來訓練模型,最後將模型放到微控器(Microcontroller)裡去進行推論,只要該微控器能支援C99標準的編譯器(Compiler)即可。C99是指1999年的國際標準ISO/IEC 9899,屬C語言標準。
小結
回到約十年前,2014年ESP8266晶片(屬Espressif上海樂鑫科技)開始走紅,走紅的原因主要有二,一是網友貢獻程式,使該晶片能直接用Arduino IDE進行開發,讓多數只會使用Arduino的創客也能用ESP8266;二是ESP8266晶片實現成的系統電路板也只要5美元,當時便宜到讓人不可思議。
也因為ESP8266的走紅,之後在2016年才有ESP32晶片接替ESP8266,而後一路開展出各種ESP32系列晶片,甚至被Arduino官方用於新的正式電路板中。
循上述模式,標榜只要1美元的TinyML板或許也會引起一波旋風,畢竟平價是難以抗拒的吸引力,不過也有其他低價專案正在醞釀中,如BitNetMCU 框架,該框架使用CH32V003晶片,晶片一樣只有15美分,且核心為免授權成本的RISC-V核心,這類的超平價TinyML方案是否能引起大眾關注與響應,可能還有待時間考驗。
延伸閱讀
1 dollar TinyML專案(GitHub):https://github.com/jonnor/embeddedml/tree/master/projects/dollar_tinyml
1 dollar TinyML專案(Hackaday):https://hackaday.io/project/194511-1-dollar-tinyml
emlearn:https://github.com/emlearn/emlearn
- 創客積木M5Stack加入LLM戰局 - 2024/11/29
- MLPerf大語言模型、生成式AI測項觀察 - 2024/11/27
- Sony強力加持!樹莓派發表專屬AI攝影機 - 2024/10/28