【活動報導】輕鬆運用Intel Edge AI Suite開創智慧邊緣應用藍圖

Posted By MakerPRO編輯部 on 9 月 30, 2025 in AI關鍵技術, Edge AI解決方案, Intel, Sertek, 活動報導 | 0 comments

持續快速推進的人工智慧(AI)浪潮正從雲端湧向各種邊緣終端裝置，如何能最用短的時間、最輕鬆的方法讓所謂的邊緣人工智慧(Edge AI)應用「落地」，成為眾家企業與廣大開發者最關注的話題。因應越來越龐大的市場需求，半導體業界領導廠商英特爾(Intel)結合豐富軟硬體資源，加上開放生態系合作，全面支援Edge AI部署與智慧轉型。

為了讓更多企業IT團隊與開發者更進一步了解Intel技術可帶來的助益，Intel代理商夥伴建智(Sertek)在日前舉辦了一場技術研討會，除了邀請到來自原廠專家講師介紹最新的AI邊緣運算處理器產品藍圖，以及軟體工具鏈、開發生態系發展現況與趨勢，Sertek的FAE團隊成員也詳細解說了Edge AI應用部署流程中的各種「撇步」，並在現場展示智慧零售、智慧城市相關實例，讓現場近百位聽眾收穫滿滿。

以異質運算策略因應多樣化應用需求

研討會首先由Intel產品行銷經理張沛哲(Jeff Chang)揭示該公司最新邊緣運算產品的佈局策略方向，他指出，「未來的AI重心將轉向邊緣，這不僅是算力的轉移，更是產業數位化轉型的關鍵時刻；」AI正快速成為邊緣運算的核心驅動力，根據市場研究機構Gartner預測，到2026年至少有50%的邊緣運算部署將涉及機器學習，為此Intel提出異質運算策略，協助因應來自不同垂直產業的多樣化需求。

繼2023年底推出結合CPU、GPU 與 NPU三種運算單元於單一平台的Intel Core Ultra系列第一代產品(代號Meteor Lake)，讓筆電與邊緣裝置能在本地執行生成式AI、語音辨識或影像增強等工作、減少對雲端依賴之後，Intel在過去兩年橫跨不同等級的邊緣運算應用場景與工作負載，持續推出從效能、功耗與成本三方面最佳化的Edge AI硬體解決方案。

Intel持續推出針對不同應用場景最佳化的Edge AI硬體產品解決方案。(圖片來源：Intel)

2024 年 Intel推出Arrow Lake (Core Ultra 200 H/U/S系列)，平台運算效能進一步達到99TOPS，適合即時推論與影像、多媒體處理等邊緣應用。針對工業與商用市場，Intel推出Bartlett Lake與Raptor Lake Refresh，強調相容性與長達十年供應；入門級則有代號Twin Lake的選項，兼顧繪圖效能與成本。此外Intel 也發布Arc系列GPU B50、B60 系列，協助現有平台快速擴充 AI 算力。

張沛哲指出，邊緣AI已廣泛應用於製造檢測、醫療影像、生成式診斷與智慧城市，針對工業、醫療等高敏感場景，Intel亦提供寬溫支援、Real-Time運算與Functional Safety等功能，以滿足機械手臂、自駕車及醫療設備的嚴苛需求。著眼安全性在邊緣應用中的重要性，Intel也強調「Security-First」承諾，在平台層面導入Secure Boot、SGX等功能，確保模型與資料在設備端的完整性，避免被竄改或外洩。

此外，Intel也提供範例程式與效能基準，讓開發者能快速測試CPU、GPU 與NPU的差異化效能，並針對零售、智慧城市、製造等場域提供現成套件，協助企業加速部署。張沛哲表示，「我們希望讓開發者和企業在最短時間內，以最少阻力完成AI的導入。」

建構豐富開放性生態系與軟體工具鏈資源

除了提供陣容堅強的邊緣運算硬體，Intel也積極建構軟體工具鏈與開發生態系，以持續加速推動邊緣裝置的智慧化；Intel平台研發協理王宗業指出，當AI從雲端走向邊緣並成為第一線決策的驅動力，「你會發現很多挑戰在雲端其實已經解決，但放到邊緣就會面臨不同條件，例如效能、功耗與成本的拉扯。」產業面臨的問題包括應用場景碎片化、基礎設施老舊，以及異質工作負載的整合難題；「停車場的車牌辨識系統可能１秒5張影像就夠，但製造產線上的工業攝影機卻需要每秒120張影像，這些都叫 AI，但需求完全不同。」

為因應Edge AI應用的多樣化挑戰，Intel以開放性的夥伴生態系與Open Edge平台作為基礎，結合Edge AI Suite工具鏈與多套專屬垂直應用套件，以充分發揮CPU、GPU、NPU異質運算能力，並協助企業簡化部署流程並提升效能。王宗業解釋：「我們不只提供單一處理器或SDK，而是用系統思維，確保整體流程能順暢運作，才是真正落地的關鍵。」

Intel的Open Edge平台架構結合廣大生態系夥伴的軟體資源與異質運算硬體優勢。(圖片來源：Intel)

在應用面，Intel攜手業界合作夥伴針對不同場景推出多個解決方案：例如針對智慧城市應用的Metro AI Suite中，可運用AI透過交通監控與公共安全管理提升城市營運效率；在針對製造業應用的Manufacturing AI Suite，則以電腦視覺協助瑕疵檢測與品質控管，達到全檢而非抽檢；針對零售業的Retail AI Suite則透過自助結帳系統，利用AI減少損耗並強化顧客體驗；而在醫療健康(Health & Life Sciences)領域，Intel與軟體業者夥伴Caresyntax合作，透過AI提升手術室資源調度與臨床決策效率。

王宗業也特別提到Intel正推動多模態生成式AI與AI Agent技術進入邊緣應用，讓系統能同時處理文字、語音與影像，並藉由多代理人(multi-agent)協作和OpenVINO的檢索增強生成(RAG)，實現更自然的人機互動與複雜任務自動化。「未來的邊緣不只是資料的終點，而是智慧決策的起點；」他強調Intel將持續結合硬體平台、開發工具與合作夥伴生態來推動邊緣智慧的普及化，讓AI真正落地在零售、醫療、製造與城市管理等場景。

實用工具助力克服Edge AI專案部署挑戰

接著來自Sertek FAE團隊的陳立偉(Think Chen)以工程師視角分享了三套實用的Intel 官方工具，能協助開發者高效率克服Edge AI系統設計與驗證方面的挑戰。首先是支援系統功耗與散熱表現分析的Power and Thermal Analysis Tool (PTAT)工具，能協助工程師找出高溫熱點，避免因散熱不足導致效能下降或硬體壽命縮短。「這套工具的介面非常直覺，用瀏覽器就能操作，而且對CPU負載影響極低，能讓開發者專注於設計本身；」透過長時間運作並記錄頻率、功率與溫度等數據，工程團隊能更快找到問題來源，並設計出更穩定的解決方案。

第二套工具I/O Margin Tool (IOMT)則是Intel為高速訊號完整性設計的一款關鍵工具。陳立偉解釋，隨著PCIe、SATA、USB等資料傳輸介面的速度不斷提升，電氣訊號的完整性挑戰也愈趨嚴峻。IOMT的核心目的就是協助工程師在產品開發過程中，評估與最佳化高速I/O介面的電氣穩健性，並提供潛在風險的診斷依據。簡單來說，它能量測晶片上訊號的完整性與品質，判斷訊號在面對雜訊與失真時的容忍度(margin diagram)，讓開發團隊可以在EVT (工程驗證測試)階段，及早發現並修正設計問題，確保系統在高速傳輸下依舊保持可靠與高效；「這就像是在設計階段替產品做健康檢查，讓我們更有把握把最穩定的系統交到客戶手上。」

第三套工具System Trace Collector (STC)則是一套跨模組的效能追蹤工具，能一次性收集 CPU、GPU、NPU 及 I/O 相關的系統日誌(log)，並快速鎖定不良行為；「它就像是一個全能的紀錄器，能把分散的日誌整合起來，幫助工程師縮短除錯時間。」陳立偉補充，STC可大幅減少工程師手動追蹤與比對的工作量，加速問題定位。這種高效率的方式不僅能快速提出針對性建議，還能確保已確認的系統問題獲得即時解決，最終提升整體客戶體驗，成為Intel IPS 工程師與合作夥伴廣泛依賴的實用工具。

STC能在系統出現異常時一次性收集涵蓋CPU、GPU、NPU 及I/O等模組的完整event log。(圖片來源：Sertek)

「隨著邊緣應用越來越複雜，功耗、訊號完整性與效能追蹤工具已成為開發流程中不可或缺的一環；」陳立偉總結，以上工具能有效降低Edge AI專案的開發風險，讓合作夥伴在競爭激烈的市場環境中，更快將產品推向市場。

Edge AI Sizing Tool打造高效能部署策略

針對如何在部署Edge AI應用時有效配置資源並提升成果準確度，Sertek FAE團隊的葉峒江 (Jonathan Yeh)詳細介紹了Intel提供的Edge AI Sizing Tool；他指出，許多企業在導入AI時，往往面臨的挑戰並不是「算力不足」，而是如何有效整合與管理資源，避免系統過載並確保彈性。而Edge AISizing Tool提供的圖形化介面可即時監控CPU、GPU與NPU 的使用率，並透過不同工作負載的實測數據進行量化比較，如同系統的「AI 健康檢查儀表板」。

Edge AISizing Tool提供的圖形化介面有如系統的「AI 健康檢查儀表板」。(圖片來源：Sertek)

葉峒江也以多個應用實例展示工具的價值：包括YOLOv8的物件偵測，能即時分析影像並標註物件位置；Whisper模型的語音轉文字，在1.2秒內完成演講內容的辨識；以及文生圖應用，僅需十餘秒即可生成高質感圖像。甚至在大型語言模型(LLM)應用上，系統也能清楚呈現不同資源配置下的效能差異；「只有真正掌握平台能力的極限，同時保持彈性，才能讓每個應用都能穩定、安全，並具備即時擴充的能力。」

針對LLM常見的「幻覺」問題，Intel則有Edge AI Tuning Kit，結合RAG與PDF文件解析功能，協助企業以自有資料進行模型微調，確保輸出內容更貼近真實且具備產業專屬價值。他強調：「AI 的成功不只是硬體堆疊，而是能否用正確的方法把有限資源發揮到最大。」他同時介紹Intel ESQ認證平台，表示目前已有包括Vecow、研華(Advantech)等業者加入，為企業提供高可靠度與可擴展性的系統方案。

「這些工具的基礎都來自Intel的開源推論引擎OpenVINO，它援多種AI模型與硬體平台，讓我們能在不同的邊緣環境裡，以一致的方式進行開發與部署；」葉峒江總結，透過完整的工具與生態系支援，Intel期望協助合作夥伴縮短導入週期，推動Edge AI從概念驗證邁向大規模成功落地。

貼近不同產業需求的Edge AI「應用工具箱」

壓軸場由 Sertek FAE團隊的康哲源(Jerry Kang)透過實際案例展現 AI 在零售(Retail AI)與智慧城市(Metro AI)的應用價值。他指出，AI 正快速進入各行各業，數位轉型不再只是依賴雲端，而是更貼近現場、直接在裝置端即時反應。這些應用背後的基礎來自Intel的Open Edge Platform，這是一個開放且模組化的軟硬體整合平台，最底層包含 Intel 的處理器(ATOM、Core、Xeon)、GPU、網卡與驅動程式，提供穩定基礎；再往上則有 Edge Microvisor Toolkit，確保容器環境的安全與效能；管理框架則讓大規模裝置佈署、維運與管理更自動化。

該平台同時整合 AI Libraries，提供各種框架、工具庫與微服務，讓開發者可靈活使用或與合作夥伴資源結合。而Edge AI Suites則是更貼近產業需求的「應用工具箱」，內含範例程式、SDK與效能測試工具，協助不同產業快速導入 AI 應用。在Retail AI方面，聚焦於自助結帳、損失防範與訂單正確性等應用，例如利用電腦視覺辨識購物籃內商品，加速結帳流程；AI 也能即時偵測替換或隱藏商品行為，降低零售損失，並優化庫存管理與補貨效率。

Edge AI Suites內含範例程式、SDK與效能測試工具，協助不同產業快速導入AI應用。(圖片來源：Sertek)

至於 Metro AI則服務智慧交通與公共安全情境，包括智慧停車、交通流量管理與影像搜尋等；AI甚至能協助救護車優化路線並調整紅綠燈，或透過影像分析偵測異常行為，提升城市安全。康哲源總結，Intel 的目標是推動一個「從雲端到邊緣」的開放AI生態系，透過Open Edge Platform與Edge AI Suites，開發者與企業不需從零開始，就能利用現成的範例與工具，加速 AI在更多產業的落地，真正把創新帶進日常場域，創造即時而實際的價值。