2024 MAI 開發者大會以「Make AI a Reality」為精神，希望架起AI技術與應用的橋樑，廣邀開發社群先進擔任講者，2天共20場演講，為AI開發者及AI Maker們領路。探討主題涵蓋先進及實用 AI 工具、框架、平台技術；Edge AI開發環境、推論優化與佈建；熱門關鍵技術：Local LLM、RAG、NPU、GenAI…；創新與落地Edge AI應用。
ALIF 亞洲區市場行銷協理Sampan Chen
在這場短講中，ALIF 亞洲區市場行銷協理Sampan Chen從公司背景、技術優勢、產品開發、客戶實例等面向，介紹分析「Embedded ML殺手級應用與系統規劃」這個主題。
公司背景與技術架構
Sampan首先介紹ALIF這家AI晶片圈的新創公司，ALIF於2019年成立，從成立初期便針對嵌入式系統與機器學習應用設計了獨特的產品架構，使其產品能夠高效處理數據並節省電力消耗。公司領導人擁有豐富的業界經驗，特別是對於 STM 的架構有深入了解，這為公司設計創新產品提供了強大支持。
(Source : 講者簡報)
技術優勢與應用
針對Edge AI運算希望讓數據處理更高效的需求，ALIF 提出自主運算的架構，所有的輸入輸出都在裝置上進行判斷並做出決策，並且具備獨立電池供電系統，這樣的設計使得產品可以在低功耗的情況下高效運行，這對於嵌入式系統來說是極大的優勢。
為了實現這個先進的架構，ALIF成為市場上率先採用ARM的Cortex-M架構加上NPU 的結合方案，這種設計使產品在性能和處理速度上有顯著提升，並且在電池供電的情況下可以長時間運行。
(Source : 講者簡報)
(Source : 講者簡報)
產品特點與市場優勢
Sampan 也介紹了ALIF產品的兩大特點，首先是模組化設計，ALIF 的產品分為多個模組，每個模組都有獨立的電源管理單元，可以根據需要啟用或關閉，這樣的設計不僅節省能耗，還能提高運行效率。其次是安全性，ALIF 的產品具備高度的安全防護機制，確保數據在處理和傳輸過程中的安全，並且可以在產品生命週期結束時安全清除數據。
(Source : 講者簡報)
(Source : 講者簡報)
產品開發與合作
在開發平台與工具部分，ALIF 也提供了完善的開發平台與工具，以及SDK 和 API，讓開發者能夠快速上手進行產品設計與開發。ALIF也與多家知名公司合作，將其邊緣計算技術應用到各類場景中，展示了其產品的廣泛適用性和功能。
(Source : 講者簡報)
(Source : 講者簡報)
客戶實例分析
Sampan現場也展示了實際的使用案例，包括在工廠安全與安全監控場景中，通過ALIF的鏡頭模組和推論技術，實現了對傳統儀表的監控，這樣不僅提高了監控效率，還節省了更新設備需要的各種額外成本（過去要進廠房拆機器）。另一個案例是在智慧家庭電器和各種穿戴設備上，實現更智能化的數據處理，提升用戶的生活質量和便利性。
(Source : 講者簡報)
小結
誠如Sampan 在其演講中所強調的，邊緣裝置可透過AI來提升其「智能」，展現創新的應用性，例如幫助產線提升效率，或讓大家的生活更加便利。不過，在落實Edge AI的過程中，仍有不少挑戰需克服，包括如何提供更高效、低功耗且安全的解決方案，而這也是ALIF致力的市場優勢所在。
- 【2024 MAI Talks】用樹莓派玩轉Edge AI - 2024/06/19
- 【2024 MAI Talks】打造企業Local LLM的挑戰與策略 - 2024/06/18
- 【2024 MAI Talks】打造小而美的 Local LLM 對話機器人 - 2024/06/17
