軟體技術讓MCU、SBC能跑輕量化LLM
近期就有兩則以MCU、SBC執行LLM的技術嘗試,一是用只有8美元的ESP32-S3 MCU來跑2,890萬個參數的Gemma模型,另一是用RPi 5 SBC來跑大語言模型,但卻是以裸機(Bare Metal)方式來跑,以下分別更深入說明。
從AI推論到實體行動 Intel生態系串聯下一代智慧機器人開發
由英特爾、詮鼎集團與Sertek共同舉辦的「邊緣驅動未來:機器人智能全面進化研討會」,以實體AI應用開發為焦點,邀集產學界專家講者從不同角度勾勒下一階段機器人產業的發展輪廓。
NVIDIA與聯發科技深化合作 共同打造從邊緣到雲端的AI運算平台
NVIDIA與聯發科技(Mediatek)共同宣布深化長期合作夥伴關係,共同打造跨世代的AI基礎建設、邊緣AI運算與車用產品。
重新定義入門級邊緣AI NVIDIA推Jetson Orin Nano 2機器人電腦
NVIDIA宣布推出NVIDIA Jetson Orin Nano 2,這款全新機器人電腦將重新定義入門級邊緣AI,讓數百萬名開發人員都能運用前沿等級的生成式AI效能。
