【科技講座】TinyML生態系統與技術發展藍圖
關於此課程
AI技術蓬勃發展,各式的應用不斷的推陳出新,其中MCU-based的AI應用自是緊隨其後,蔚為風潮。在MCU如此迷你的裝置內執行AI,就被稱為TinyML(機器學習)。本堂課程請到Arm首席應用工程師Odin Shen,向大家分享TinyML現在與未來的發展藍圖。
一般而言,提到AI,第一個聯想就是在雲端進行運算,譬如在一堆的照片中判別哪一張是貓咪的照片。但是這種通常難以滿足產業的需求,講師指出,目前需要類似語音助理、臉部解鎖等低延遲,也更可靠安全的技術應用。
當AI的應用逐漸向Edge端移動,諸如Google的翻譯、IG的濾鏡處理、語音辨識、臉部解鎖等功能,皆會逐漸的影像各個產業。而若是要讓AI在在終端裝置執行,其所牽涉到的技術便是SoC的運算能力,再將規模放大,以手機為例,其中還會包括GPU、DPU等等。
除了基本介紹與用之外,講師也分享了他自己運用Arm架構的晶片和開源ML框架自造的裝置,並表示就算沒有相關的背景,還是可以製作簡易的專案!
TinyML有很多的應用可以實現,但也很很多挑戰需要進行克服,譬如要如何讓模型在變小的時候,可以保持它的精準度?又要如何維持它的推論效能? 一起來課程裡聽聽講師的解方吧!
講師介紹
沈綸銘 Odin Shen
現任Arm資深業務開發經理,曾任Arm首席應用工程師,負責推廣並提供Arm機器學習和自駕汽車技術相關等解決方案。