|

從資料到部署一站加速:研華攜手Edge Impulse降低Edge AI開發門檻

   

當邊緣人工智慧(Edge AI)逐步從概念驗證(POC)導入實際應用,開發團隊真正面臨的挑戰,往往不再是AI模型的選擇,而是資料收集、標註、模型訓練、效能最佳化、硬體部署與後續維運能否被串成可重複、可擴充的工作流程。

這也點出了企業導入Edge AI常見的「隱形成本」:資料並非一次準備完成,模型也不是訓練一次就能長期使用,若產線條件改變、影像資料新增、瑕疵型態變多,團隊就可能重新面臨資料整理、重新標註、模型重新訓練、參數調整與硬體測試等工作。如果這些流程仰賴人工串接,專案容易停留在概念驗證階段,無法推進到標準化部署。

研華(Advantech)日前舉辦的一場線上研討會,就邀請到資深開發者與研華技術專家,分享如何妥善運用Edge Impulse平台(企業版)搭配研華AOM-2721開發套件,協助開發者縮短從資料到部署的週期,並以PCB焊接瑕疵檢測作為示範場景,呈現工業視覺應用從零開始建置物件偵測系統的完整流程。

隱形成本不在模型本身 而在資料、標註與部署流程

嵐奕科技/夠鬧智慧科技負責人、V7RC社團版主莊志偉(Louis)在研討開場時從使用者角度切入,指出Edge AI開發的門檻正在從單一模型訓練,轉向整體流程自動化能力。他表示,過去開發者使用AI平台時,能在介面上完成圖片上傳、標註、訓練,再把模型下載到裝置端使用,「在那個時候其實就已經很滿足了;但隨著AI Agent與自動化開發工具逐漸成熟,開發者的期待已經不只如此。」

Louis進一步提到,現在更關鍵的問題是,能否讓AI Agent協助把資料收集、標註、訓練、模型下載,甚至未來部署到裝置端測試等流程串接起來:「現在最好是AI Agent能幫你把所有的事情都做到,之後就幫你去跑訓練,訓練跑完後通知你說已經跑完了。」他以自身實作經驗指出,利用Edge Impulse API與CLI,目前已經能將相關流程做到約80%至90%的自動化;若後續補齊下載至韌體與裝置端測試的環節,還有機會形成更完整的一站式訓練流程。

而Louis也分享了他對自動化流程的設想:先將收集到的圖檔放入資料庫,再透過本地端大型語言模型協助自動標註,接著上傳資料集、啟動模型訓練,並在訓練完成後下載模型到本地端。他形容:「這樣的流程其實是非常容易,而且非常方便,」真正的價值在於讓開發者不必把大量時間耗在 API 細節或手動串接上,而是可以把流程調整到符合自己的應用邏輯。對製造業而言,AI 專案的瓶頸不只是演算法能力,而是能否讓非資料科學背景的工程團隊,也能用穩定、可重複的方法,把 AI 帶進產線現場。

Edge Impulse將AI開發流程從數週壓縮到數天

研華嵌入式事業群市場開發經理田杰平(Ethan Tien)指出,Edge Impulse 是一套運作於雲端的完整機器學習平台,開發者不需額外下載複雜軟體,即可透過直覺化介面完成資料準備、模型開發、優化、測試驗證與部署。他表示,Edge Impulse 的核心價值在於降低 AI 開發門檻,「在開發 AI 模型與優化模型時,實際上不需要寫任何程式」,讓團隊能更快取得結果、提升開發效益。

Ethan 說明,許多企業在導入 AI 時常不知道該從哪個工具開始,也不確定是否必須仰賴 AI 專家,導致流程反覆試錯、專案週期拉長。他提到,過去一個概念驗證可能需要 8 到 12 週甚至更久,硬體雖已就緒,卻因模型尚未完成而無法發揮價值;透過 Edge Impulse 搭配研華系統,原本數週的流程可望縮短到數天內完成。

在模型最佳化方面,Ethan特別介紹Edge Impulse企業版中的兩項關鍵工具:完整的EON 調校器(Tuner) 與EON編譯器。EON Tuner可將資料彙整後送上雲端,自動協助開發者在指定硬體條件下尋找較理想的模型設定與 AI 參數,避免工程團隊在卷積神經網路(CNN)、ReLU或其他模型設計選項之間耗費大量時間反覆測試。至於 EON編譯器,Ethan則強調,它不只是傳統意義上的編譯器,而是會進一步考量AI模型在不同平台上的效能與資源使用率。

他表示,當模型需要部署到不同硬體時,除了能否符合平台需求,也必須考慮記憶體與儲存空間限制。Edge Impulse可在雲端平台協助模型壓縮與轉換,最多減少70% RAM使用量,並降低40% ROM使用量,讓AI模型更適合在資源有限的邊緣裝置上執行。他也特別提到,在記憶體成本持續受到關注的情況下,這類模型壓縮與資源最佳化能力,對邊緣AI專案具有實際價值。

對企業而言,這類工具的價值不只在於「加快模型訓練」,而是讓 AI 開發從一次性實驗變成可複製的工程流程。Ethan 指出,實際進行 POC 時,團隊往往不會只面對單一硬體平台,而可能需要在MCU、MPU、GPU 或 NPU 等不同平台上驗證同一個應用。如果每換一個硬體平台就必須重新訓練、轉換與調校模型,時間與成本都會大幅增加。Edge Impulse 則能以同一套模型流程支援跨平台部署,讓開發者在後台針對不同運算平台進行AI優化與效能驗證,進一步降低對特定晶片或供應商的依賴。

Ethan 也補充,研華在推動Edge Impulse解決方案時,不只鎖定單一硬體,而是提供涵蓋 Qualcomm平台之外,也包括 Intel、AMD、NVIDIA 等不同處理器與系統選項的完整硬體組合,並可搭配攝影機、單板電腦、推論系統與 AI 伺服器等產品。

以AOM-2721示範PCB瑕疵檢測

接著由研華嵌入式事業群Arm Platform應用工程部專案副理劉錦霖(Phill Liu)為聽眾示範如何在研華AOM-2721模組上,利用Edge Impulse工具建立一套自動偵測PCB焊接瑕疵的物件偵測系統。他說明,此任務工作流程涵蓋平台介紹、環境設定、資料收集、模型訓練、部署,到以EON Tuner自動優化,目的就是讓開發者理解Edge AI應用部署其實沒有想像中那麼難上手。

研華AOM-2721符合OSM 1.1規格,以Qualcomm Dragonwing QCS6490為核心,內建 12 TOPS NPU,並支援兩路MIPI-CSI 相機輸入與HDMI/DP影像輸出,適合視覺AI與工業檢測應用。Phill的示範是以USB相機擷取PCB影像,針對焊錫過多、零件歪斜、空焊等瑕疵進行即時定位與分類。

在實作流程上,開發者先完成Yocto OS燒錄與Edge Impulse CLI安裝,讓 AOM-2721 連接到 Edge Impulse Studio;資料則可從裝置、電腦、外部儲存空間,甚至手機掃描 QR Code 拍攝後上傳。Phill指出,此任務採用邊界框偵測(Bounding Box Detection),因為目標不是只判斷影像是否異常,而是要框出瑕疵位置並判斷類別。

完成標註後,Phill示範是以YOLOv5進行訓練,影像解析度設定為416×416,以利辨識小型瑕疵;部署時則選擇QCS6490平台與INT8量化模型,讓推論可在Qualcomm NPU上執行,而非只能跑在CPU上,以提升速度並保留CPU資源。最後,EON Tuner可在背景自動搜尋模型組合,如Phill形容就像「一個虛擬實驗室,在 24 小時幫你做實驗」,協助開發者依速度、準確度或資源使用量選擇較合適的模型。

從官方驗證到在地支援 加速企業導入Edge AI

除了展示Edge Impulse搭配研華 AOM-2721 的開發流程,這場線上研討會的分享也進一步凸顯「官方驗證硬體」與「在地技術支援」對企業導入Edge AI的重要性。

在問答中,Louis以開發者的經驗為基礎,建議企業若要開始使用Edge Impulse,可先準備相對完整、已標註的訓練資料集,或先從公開資料集進行測試,再依序完成圖片上傳、模型訓練與裝置部署,熟悉完整流程後,再針對 YOLO 等模型設定進行調整。研華團隊也補充,AOM-2721與Edge Impulse的整合並非單純「可安裝」,而是已完成底層驅動對接與平台驗證,因此在模型訓練、部署與裝置端執行上更具可靠性。

Ethan 進一步說明,透過研華訂閱企業版Edge Impulse的差異,在於研華會針對不同硬體平台陸續完成驗證,並提供硬體加軟體的整合服務與客服支援;若企業在訓練或部署過程遇到問題,也可透過研華窗口反應。整體來看,這場活動的重點不只是介紹一套低程式碼 AI 工具,而是呈現一條較完整的導入路徑:從官方支援的 AOM-2721 開發套件、Edge Impulse 平台流程,到研華在硬體選型、跨平台驗證與技術服務上的補位,協助企業降低從概念驗證走向實際部署的風險。

 

 

MakerPRO編輯部

訂閱MakerPRO知識充電報

與40000位開發者一同掌握科技創新的技術資訊!

Author: MakerPRO編輯部

MakerPRO為華人圈最專注於Edge AI開發者社群最新技術趨勢、解決方案評測及產業動態報導的專業媒體,在華文科技媒體領域具有重要的影響力。

Share This Post On

Submit a Comment

發佈留言必須填寫的電子郵件地址不會公開。 必填欄位標示為 *