軟體技術讓MCU、SBC能跑輕量化LLM
近期就有兩則以MCU、SBC執行LLM的技術嘗試,一是用只有8美元的ESP32-S3 MCU來跑2,890萬個參數的Gemma模型,另一是用RPi 5 SBC來跑大語言模型,但卻是以裸機(Bare Metal)方式來跑,以下分別更深入說明。
NVIDIA與聯發科技深化合作 共同打造從邊緣到雲端的AI運算平台
NVIDIA與聯發科技(Mediatek)共同宣布深化長期合作夥伴關係,共同打造跨世代的AI基礎建設、邊緣AI運算與車用產品。
英飛凌攜手聯發科打造未來車用智慧座艙體驗
英飛凌NOR Flash記憶體可儲存韌體與開機程式碼,以支援SoC層級的AI驅動功能,例如語音助理、駕駛監控、行車旅拍生成、環境感知,以及個人化影音推薦。
AI建築機器人走進工地:Built Robotics如何改變傳統施工模式
美國新創公司Built Robotics近年來將AI、自主導航與重型工程機械結合,讓原本需要由駕駛員操作的挖土機、打樁機等設備,具備自主施工能力。
送餐也將無人化:AI配送從洛杉磯到澳洲黃金海岸
AI與機器人技術快速發展,「送餐機器人」被視為最有機會率先改變民眾日常生活的應用之一。相較於仍在測試階段的自駕車,人行道配送機器人的運行環境較為單純,配送距離通常只有數公里,因此更容易率先落地。