2024 MAI 開發者大會以「Make AI a Reality」為精神，希望架起AI技術與應用的橋樑，廣邀開發社群先進擔任講者，2天共20場演講，為AI開發者及AI Maker們領路。探討主題涵蓋先進及實用 AI 工具、框架、平台技術；Edge AI開發環境、推論優化與佈建；熱門關鍵技術：Local LLM、RAG、NPU、GenAI…；創新與落地Edge AI應用。
從邊緣設備到感測器，AI走下雲端進入終端，將在日常生活與各行各業實現具備龐大潛力與價值的不同應用。源壹科技資深產品經理賴南宏在以「用智慧感測平台實現TinyML的落地應用」為題之演說中，透過對該公司智慧感測硬體平台技術細節的介紹，以及未來趨勢以及實際應用案例的分享，讓聽眾對TinyML邊緣運算的「威力」有更深入的了解。
利用MCU等簡單硬體配置
賴南宏表示，根據市場調查，預計到2032年，全球Edge AI市場規模可望從2023年的191億美元增加至1,436億美元，成長達到八倍，應用涵蓋製造、自動化、政府專案、健康照顧和消費產品等各個領域；龐大潛力促使源壹科技決定專注於邊緣運算和AI技術的發展。源壹的智慧感測平台核心在於簡化AI模型的部署和運作，賴南宏詳細介紹了該平台如何利用MCU來實現高效的數據預算推論，並且透過簡單的硬體配置即可滿足不同需求。
源壹的智慧感測平台能在保持低功耗的同時，提供足夠的計算能力以支援各種小型AI模型；此外該平台還具備良好的資料傳輸能力，允許使用S85或藍牙等低頻寬通訊方式來傳輸資料，從而降低系統成本與複雜度，這讓中小型企業能夠輕鬆上手，快速部署AI應用。賴南宏還分享了幾個源壹目前正在進行的一些設計專案，包括與中研院合作，結合太陽能供電的智慧聲盒(Smart Audio Box)，利用智慧感測平台進行環境音分類和分貝值測量，旨在提升人居環境的舒適度；能對設備運作健康狀況進行準確推測的診斷系統，可協助年輕醫師更快速學習並掌握患者病情的智慧聽診器，還有應用AI技術進行植物病蟲害檢測和土壤分析以提升農業生產效能的智慧農業應用。
低門檻AI應用部署解決方案
賴南宏最後強調，源壹的智慧感測平台旨在降低AI應用的門檻，讓更多中小型企業能夠受益於這項技術。透過簡單易用的硬體和軟體結合，該公司希望能夠在未來的AI應用中扮演重要角色，推動AI技術的普及和發展，也歡迎更多的開發者能一起合作實現創新！
- Arm運算平台助力Llama 3.2 LLM實現AI推論加速與擴展 - 2024/09/27
- 【2024 MAI Talks】邊緣裝置結合生成式AI – NVIDIA Jetson平台為例 - 2024/09/26
- 開啟企業AI新紀元 英特爾Xeon 6和Gaudi 3正式發表 - 2024/09/26
.jpg)
.jpg)