以「 Make AI a Reality」為宗旨、由MakerPRO主辦的2026年度MAI開發者大會在10月7日於台北熱鬧登場，這場一年一度聚集台灣Edge AI領域專家學者、業界廠商代表與開發者社群夥伴的盛會已經邁入第三屆，結合主題演講、工作坊及應用展示，讓不同背景的與會者在了解最新技術趨勢之外，也能相互交流應用開發過程中的挑戰、尋找解決方案與跨域合作機會，成為實現Edge AI應用落地的關鍵助力。
今年MAI年會的主題是「啟動AI in Action 時代」，聚焦AI如何從模型能力走向實際應用。上午五場主題演講，涵蓋主權AI、機器人開發框架、台灣AI晶片發展現況、嵌入式智慧系統及Agent Computer；下午則透過四條平行議程，將討論延伸至地端AI、體感互動、智慧醫療與機器人等開發實務，讓參與者從技術趨勢進一步掌握應用建置的具體方法。
主權AI的核心在於自主維護與演進系統的能力
MAI上午的大師講座由台灣大學資訊工程學系教授、矽想公司（SiliconMind）共同創辦人洪士灝以「台灣發展主權AI的重要性及挑戰」為題揭開序幕。他指出，主權AI的核心意義可以從國家、企業及個人三個層次來剖析，首先國家需要確保關鍵基礎設施與核心產業的運算韌性，其次是企業需要掌握專業知識、資料及營運系統，再來個人也應具備運用AI的能力，同時保有對自身資料的控制權。
台灣大學資訊工程學系教授、矽想公司（SiliconMind）共同創辦人洪士灝（攝影：MakerPRO）
在他的定義中，主權 AI 涵蓋自主算力、可掌控的資料與本土語言文化，以及自行開發、維運 AI 系統的能力。「功能足夠」也是重要條件：應用所需的 AI 不一定要追逐最頂尖通用模型，而應能滿足特定任務，並降低受到外部政治或商業因素限制的風險。
洪士灝指出，台灣雖掌握重要的 AI 硬體供應鏈，但境內算力部署、底層軟體能力與資料整合仍有不足。高階製造、金融及醫療等領域累積了珍貴資料，卻也面臨資料分散、存取受限及難以有效利用的問題。若主權AI的討論停留在GPU採購、繁體中文模型微調與資料在地儲存，便難以建立長期自主性。
他強調，真正需要培養的是能深入系統底層，進行編譯器、運算調度與軟硬體協同優化的人才，以及能獨立維護、持續演進AI系統的工程能力。
聚焦於領域專業模型– 善用 開放權重模型(資料來源：洪士灝教授)
晶片設計正是台灣可以發揮優勢的領域。洪士灝以SiliconMind研究為例，說明如何運用開放權重模型，結合高品質領域資料及多代理人架構，串聯Verilog 程式碼生成、測試平台建立、模擬驗證、偵錯與優化。當AI 能依據測試結果反覆修正設計，便有機會由單次程式生成，進一步參與完整工程流程。
這也讓主權 AI 與台灣既有產業優勢產生直接連結：將企業內部的晶片設計知識留在地端，建立可驗證、可持續改善的專家系統，再以此提升設計與驗證效率。關鍵在於找到具備資料、人才與市場基礎的專業領域，將自主能力轉化為實際競爭力。
打通模型訓練、模擬到機器人部署的開發流程
接著來自大廠英特爾（Intel）的邊緣運算事業群平台研發協理王宗業，將焦點集中在近期最熱門的邊緣/實體AI應用－－機器人開發－－的系統整合問題。他表示，隨著視覺語言模型（VLM）、視覺語言動作模型（VLA）及生成式 AI 進入機器人，系統必須同時處理影像辨識、語音互動、任務推理與動作控制；不同工作對算力、記憶體頻寬及即時性的要求，也各不相同。
Intel邊緣運算事業群平台研發協理王宗業（攝影：MakerPRO）
因此，邊緣AI的設計重點，是讓適合的運算單元承接適合的工作。CPU、GPU、NPU，以及影像與顯示處理硬體，需要在受限的功耗條件下協同運作，兼顧吞吐量與反應延遲。王宗業介紹的Intel Robotics AI Suite就能將這種異質運算能力延伸至軟體與開發工具。其架構整合ROS 2中介軟體、感知與導航演算法、運動規劃及控制函式庫，並透過OpenVINO 支援視覺、生成式AI與Physical AI模型部署。底層則包含即時作業系統相關支援、EtherCAT 通訊與韌體調校，以銜接 AI 推論和實體機器控制。
(圖片來源：Intel王宗業)
在開發流程上，Intel 提出「在不同平台訓練與建置，部署至 Intel」的方式，讓團隊可沿用既有訓練資源，再透過模型轉換與優化，將成果部署至Intel Core Ultra等平台。Physical AI Studio、LeRobot 與 Geti 等工具，則分別對應機器人模型及視覺開發需求。
這套框架的價值，在於減少模型與硬體之間反覆整合的負擔。從攝影機輸入、機器人連接，到策略模型推論與動作佇列執行，若能透過共用介面與工具串接，開發者便能將更多時間投入任務設計、訓練資料品質及實機行為驗證。
對工業機械手臂、協作型機器人、AMR 與人形機器人而言，AI 模型之外的即時控制、長期供應及系統可靠度同樣重要。Intel 的布局反映出，Physical AI 進入產業現場，必須讓新興模型技術與既有工業控制基礎共同演進。
台灣AI晶片的下一步：補齊軟體與開發者生態
第三場大師講座由MakerPRO專欄作家、Edge AI Taiwan社群創辦人許哲豪（Jack Hsu）從開發者角度，盤點台灣AI晶片的發展與挑戰。他將邊緣 AI 加速分為硬體與軟體兩條相互配合的路線：硬體可透過向量指令、多核心架構及 DSP、GPU、NPU 等加速單元提升運算能力；軟體則運用量化、剪枝、知識蒸餾與矩陣運算優化，降低模型對運算與儲存資源的需求。
Edge AI Taiwan社群創辦人Jack Hsu（攝影：MakerPRO）
這些方法都必須回到實際限制進行取捨。推論精度、輸出速度、RAM 與 Flash 容量彼此牽動，晶片即使提高理論算力，也仍可能受到記憶體、能耗及通訊瓶頸影響。開發者需要評估的是模型在目標裝置上的完整執行表現。
許哲豪的盤點涵蓋半專用型 AI 晶片、NPU IP、MCU 搭配 NPU、整合 AI 加速器的 SoC/MPU，以及生成式AI與AI PC平台，呈現台灣業者投入邊緣運算的多元方向。但他也指出，相較於由少數大型業者主導的雲端 AI 訓練市場，台灣更需要思考如何在邊緣智慧應用中建立差異化。
(圖片來源：Jack Hsu)
其中一項變化，是離網運作的邊緣智慧系統將逐步由鑑別式AI，延伸至生成式AI與實體智慧。裝置除了辨識物件、分類聲音，還可能需要理解情境、生成回應及規劃行動，因而提高對模型承載能力、推論速度與能源效率的要求。
然而，晶片產品推出之後，能否被開發者順利採用，仍取決於軟體工具及支援資源。許哲豪指出，國內小型 AI 晶片已有初步成果，但配套軟體、模型優化能力及完整教學素材仍有改善空間。當開發者只能依賴不易上手的原廠技術文件，產品就難以擴大使用。
因此許哲豪認為，產官學研與開源社群的合作，應涵蓋模型部署工具、範例、課程與開發經驗分享。對台灣AI晶片產業而言，讓工程師能快速完成第一個可運作的應用，再持續走向產品化，是硬體競爭力轉化為市場採用的關鍵步驟。
以分層運算與軟體延續性支援嵌入式AI升級
針對從嵌入式系統到Edge AI應用的開發挑戰，Arm 主任應用工程師林政男（Phil Lin）則以「更多 AI，相同限制」點出了其中的關鍵困境：終端裝置需要執行更多推論、保留更多情境資訊，並持續回應環境變化，但電力、散熱、記憶體、成本及即時性限制依然存在。
Arm 主任應用工程師林政男（攝影：MakerPRO）
當小型模型的能力逐漸提升，裝置可以承接更複雜的理解與推論任務，系統設計也必須隨之調整。林政男提出的架構，包含靠近感測器、持續運作的低功耗AI子系統，負責控制與協調的通用CPU，以及處理較大型模型的AI加速單元，並透過記憶體與互連整合。
其中，依事件啟動不同層級運算的方式，提供了兼顧智慧能力與功耗的可能性：平時由MCU、NPU 與小型模型持續感測，偵測到需要進一步判斷的事件後，再啟動高效能 CPU 或加速器執行較大型模型。如此可將高功耗運算集中在真正需要的時刻。
軟體可攜性則決定這種架構能否持續擴展。林政男介紹Arm在Cortex-M、Cortex-A、Ethos-U NPU，以及 KleidiAI、CMSIS-NN、ExecuTorch 與 Zephyr 等工具和執行環境上的布局，強調不同效能層級之間的工具共用與軟體延續性。
(資料來源：Arm林政男)
在模型開發流程方面，他也以 Fusion Studio 說明，如何將資料擷取與標註、模型選擇、訓練量化、韌體建置及裝置部署串接起來。對產品生命週期較長的嵌入式設備而言，這類流程整合有助於降低平台升級時的重工，讓既有軟體投入得以延續。從這個角度看，嵌入式AI的評估標準必須涵蓋每瓦效能、軟體移植成本、平台擴充性及長期支援。裝置能否在多年使用期間持續更新，將直接影響 AI 功能的實際價值。
林政男最後強調，邊緣運算將成為AI下一階段發展的重要基礎。隨著大型語言模型與AI Agent 逐步進入終端裝置，AI 也將成為塑造使用者體驗的新平台，讓設備能在現場理解情境、即時回應並執行任務。在Arm 的布局中，高能源效率的運算架構與廣泛的軟體生態，正是支援這項轉變的關鍵；而Edge AI的價值，則須落實於部署與營運的經濟效益、資料安全與信任、低延遲，以及面對真實環境時的穩健性。
當智慧能力更貼近資料產生與使用者互動的現場，邊緣端也將成為新應用與服務的起點，推動嵌入式裝置邁向能持續感知、判斷與行動的智慧系統。
Agent Computer將地端模型、知識檢索與工具執行整合在桌面
大師開講的壓軸場次，由來自技嘉科技（GIGABYTE）的專業電腦事業處 AI 產品經理張振豪，從常駐型AI Agent的需求探討桌面運算平台的改變。當AI開始持續規劃任務、呼叫工具及維護上下文，硬體面臨的問題也從單次推論，延伸至模型容量與頻繁資料交換。
技嘉科技專業電腦事業處AI產品經理張振豪（攝影：MakerPRO）
他指出，傳統PC的兩項瓶頸，是獨立GPU記憶體不足，以及CPU系統記憶體與GPU 記憶體之間的資料搬移。以700億參數模型為例，僅FP16權重就約需140GB，尚未計入其他執行資源；而 Agent 的反覆工作流程，也會持續涉及任務編排、檢索及模型生成之間的資料交換。
以 NVIDIA DGX Spark 平台為基礎的技嘉AI TOP ATOM，透過 GB10 Grace Blackwell 超級晶片與 128GB 統一記憶體，讓 CPU 與 GPU 共用記憶體資源，降低分離式記憶體架構帶來的容量與搬移限制。其設計重點，在於將模型、檢索元件及上下文處理整合於地端平台。張振豪也強調CPU在Agent系統中的角色。查詢解析、記憶檢索、工具選擇及提示組合，都包含適合由CPU處理的工作；GPU則承接模型推論所需的大量矩陣運算。因此，Agent Computer的效能取決於不同工作階段的搭配與調度。
在應用建置上，他進一步區分檢索增強生成（RAG）與模型微調的用途。RAG 適合導入持續更新的文件、規格及企業知識，並提供回答來源；微調則可用於調整輸出格式、語氣與任務行為。開發者可先透過提示設計確認需求，再決定是否加入知識庫、LoRA或QLoRA等微調方法。
張振豪最後指出，Agent Computer 已進入實際應用階段，而傳統 PC 在記憶體容量與資料搬移上的限制，正是常駐型 AI Agent 必須克服的瓶頸。透過統一記憶體、Arm 架構CPU與Blackwell GPU的協同運作，開發者得以在同一台桌面設備上串聯 RAG、模型微調與Agent執行流程。技嘉以AI TOP ATOM搭配AI TOP軟體生態系，希望降低地端開發與部署的門檻，讓企業在掌握自身資料的前提下，將專屬知識、工作方式及工具操作整合為可持續運作的 AI 助手，推動常駐型 Agent 從構想走向日常工作應用。
在MAI下午場，技嘉也透過工作坊的形式，以AI TOP ATOM為平台以及地端LLM與RAG、LoRA微調與 AI Agent三個實作步驟，串起企業AI應用的建置流程。課程首先運用 Ollama 與 ChromaDB，將產品資料建立為本機知識庫，比較模型取得參考資料前後的回答差異；接著以少量問答資料進行 LoRA 微調，完成權重合併、GGUF 格式轉換與模型匯入，也藉此說明少量資料訓練的侷限：模型即使能回答訓練過的問題，面對未涵蓋的內容，仍可能捏造資訊。
MAI 2026下午場次由技嘉主講的「運用DGX Spark打造Agentic AI」工作坊帶領現場聽眾以三步驟串起企業AI應用的建置流程（攝影：MakerPRO）
最後，課程讓Agent自行判斷是否查詢知識庫、選擇查詢關鍵字，再依工具回傳內容作答，並透過執行紀錄檢視各階段行為。三個環節帶出的重點，是微調負責調整語氣、格式與領域用語，RAG提供可查證的事實，Agent 則負責判斷何時調用工具；開發者還須搭配明確的程式規則與輸出檢查，才能將地端模型逐步轉化為可信賴的工作助手。
四大分場串聯實作與應用 開發者交流AI落地經驗
技嘉的地端 AI 工作坊也帶出了 MAI下午場次重視實作與應用交流的特色：分為 Track A、B、C、D四個分場同步進行的工作坊/專題講座議程，涵蓋模型開發、嵌入式部署、智慧互動、醫療及機器人等主題，讓不同背景的開發者依興趣與專案需求參與，將上午大師開講對技術趨勢的討論，進一步連結到工具操作與系統建置。
Track A另由工研院光電所專案經理鄭博文介紹TSIP Edge AI Platform，透過統一Web介面整合資料準備、模型訓練、驗證與量化，協助開發者將模型部署至低功耗MCU及嵌入式平台，降低工具鏈切換負擔。嵐奕科技總經理莊志偉則聚焦數位人系統建置，結合語音與影像生成、Agentic AI、Vibe Coding及自動化工作流，探討地端與雲端整合，兼顧算力與互動延遲，串聯模型開發、硬體部署及應用實作。
Track B聚焦感測、運動分析與具身智能。Rabboni與陽明交大電子系透過BBONI AI工作坊，介紹六軸IMU資料擷取、模型建置與裝置端測試，並結合App操作，說明低功耗平台的動作辨識應用。喬思齊科技執行長黃子豪以高爾夫球AI教練為例，解析高速影像擷取、邊緣運算與骨架追蹤，如何結合運動資料庫，轉化為揮桿姿態改善建議。飆機器人研發組長陳邵亨則從系統架構出發，介紹以Agent串聯VLM語意理解與VLA動作控制的機器人開發方式，探討從模擬到實機的感知、決策及動作整合，呈現邊緣AI由資料分析走向實體互動的應用方向。
Track C涵蓋智慧穿戴、原型開發與醫療AI。佐臻技術協理徐偉恩探討AR眼鏡結合Agentic AI，透過物件辨識、情境感知與語音互動，發展個人智慧助理。MakerPRO技術主筆陸向陽介紹M5Stack模組化平台，協助開發者快速實現AI創意。台科大電機系助理教授黃啟賢聚焦肺部X光與CT病灶辨識，兼顧模型輕量化、推論延遲及資料隱私；FDIA創辦人Selay Yang則從量化、剪枝、硬體加速與記憶體存取優化切入，探討醫療邊緣AI的效能提升。
Track D聚焦自主系統與AI輔助開發。UAV社群站長林永仁以ATAK與Anduril Lattice為例，探討無人機從單機遙控走向群體協作的架構。易控智慧生活科技技術長邱鴻鈞分享智慧建築機器人如何整合門禁、監控與空調，串聯感知、導航及通訊。CAVEDU創辦人曾吉弘介紹NVIDIA模擬與邊緣運算生態，解析Agentic AI與Physical AI的整合。北科大電資學院助理教授賴建宏則以Codex輔助Arduino程式開發，涵蓋腳位控制、感測資料讀取與地端推論，呈現AI工具在嵌入式開發的應用。
從技術分享走向實作交流 串聯台灣 AI 開發社群
除了演講與工作坊，MAI也透過合作夥伴的現場攤位，將交流延伸到講堂之外。包括技嘉、研華、佐臻、工研院與 TSIP、飆機器人、喬思齊科技，以及 Sertek、Himax、Rabboni 、Tiger AI等夥伴的參與，讓開發者有機會近距離了解開發平台與應用方案，並與技術團隊討論硬體選型、模型部署及系統整合等問題。從課堂上的觀念與操作，到攤位前針對實際需求的交流，也讓不同背景的參與者更容易找到可借鏡的經驗與合作對象。
內容豐富的MAI的展示交流區吸引現場開發者熱烈討論(攝影：MakerPRO)
(攝影：MakerPRO)
作為一年一度的開發者社群聚會，MAI的意義也在於讓分散於企業、學界與社群的知識和經驗彼此連結。透過第一線開發者分享方法、交流問題，再由平台與方案供應商提供支援，個別專案累積的經驗便有機會成為更多人前進的基礎。對擁有深厚硬體實力的台灣而言，持續累積這樣的軟體實作與跨領域合作能力，將是推動AI應用落地、壯大開發生態的重要力量。
- 2026 MAI開發者年會：匯聚社群實戰經驗、迎接AI in Action時代 - 2026/10/19
- Arm：AI代理正在重新定義CPU效能的評估標準 - 2026/10/16
- 【地端AI開發策略】解析NVIDIA RTX Spark結合Windows MXC的開發架構 - 2026/10/16
訂閱MakerPRO知識充電報
與40000位開發者一同掌握科技創新的技術資訊！
