快速演進的邊緣運算與人工智慧(AI)成為當前各行各業推動數位轉型與創新的重要助力，特別是對於高效能、低延遲、即時反應有高度要求的工業4.0與智慧製造生產線等應用。聚焦相關技術最新發展趨勢，英特爾(Intel)代理商夥伴建智(Sertek)與自動化領導廠商四零四科技(Moxa)合作，以「AI創新-智造未來」為題舉辦了一場技術講座，邀集多位專業講師為Moxa的聽眾詳細講解Intel最新邊緣AI解決方案與AI PC平台發展藍圖，並分享Intel的開放源碼AI開發平台OpenVINO以及即時(Real Time)解決方案在開發創新邊緣AI應用方面的優勢所在。
推動邊緣AI創新 英特爾提供完整端對端解決方案
講座的第一場演說由建智資深經理盧育德(Collins Lu)針對英特爾在邊緣運算與AI領域的技術進展與產品藍圖布局進行深入介紹。他表示，邊緣運算透過將資料處理移近資料生成的源頭，可減少對雲端的依賴，從而解決延遲、頻寬、安全性及連接性等問題。從網路邊緣設備到雲端資料中心，盧育德將資料處理架構分為六個關鍵層級，每一個層級都有其特定的功能和硬體需求。最接近使用者的邊緣設備如智慧攝影機、工業機器人等，使用英特爾的Core、Xeon和Atom處理器提供基礎運算能力，負責第一線的資料收集和初步處理。
第二層是企業內部部署邊緣層，提供在地運算、網路和儲存等基礎業務應用功能，透過配置英特爾Core和Xeon處理器可處理較複雜的運算任務，並確保資料的本地處理。第三層是由基地台等設備組成的存取層，提供低延遲、高頻寬的網路連接，使用英特爾Atom和Xeon處理器，確保資料傳輸效率和穩定性。接著是區域層，部署高吞吐量的遠端運算叢集以處理網路功能；透過採用雙Xeon處理器的配置，能夠處理大量的並行運算需求。
再來是核心網路和資料中心層，配備強大的Xeon處理器，處理大規模的資料運算和網路服務。最後第六層是雲端資料中心層，使用Xeon處理器和IPU，提供公有雲或混合雲服務，是整個架構的最終運算和儲存後盾。英特爾的多元化處理器產品可滿足以上六個層級的應用場景，包括效能強大的Xeon可擴充處理器、針對空間和功耗受限的應用環境最佳化的Xeon D系列處理器，以及分為Ultra S (高效能)、PS (整合GPU)與U和H(小尺寸、高效能)三個系列的Core處理器，還有專為網路邊緣對低功耗、高密度部署打造的Atom處理器系列，滿足各種邊緣運算需求。
建智資深經理盧育德
以多樣化的處理器產品線為後盾，英特爾的AI策略聚焦於提供完整的端到端解決方案，涵蓋從資料預處理、模型訓練到推論的全流程。其中Core Ultra 處理器整合了AI加速器，能在邊緣 AI 運算中展現出色效能，特別是在端對端應用場景中；相較於市場競爭產品，Core Ultra 在完整的工作負載(包括解碼、影像處理和推論)中表現更為均衡，特別適合視訊分析等應用場景；此外在串流密度、每瓦效能與性價比方面的表現優異，能為企業帶來應用優勢。
聚焦企業邊緣AI應用 英特爾結合軟硬體營造完整生態系
而英特爾的AI策略不僅著眼於硬體產品，更聚焦於建立一個全面的AI生態系統，以因應邊緣運算領域快速成長的需求。在講座第二場演說中，英特爾平台研發協理王宗業(Chungyeh Wang) 以當紅的生成式AI實際應用為主軸，帶領現場聽眾深入了解如何能透過該公司結合AI PC產品以及開放性AI開發平台OpenVINO的軟硬體方案，因應當前企業AI部署的挑戰與需求。
他指出，AI正快速改變市場格局與各行各業運作模式，預測全球AI相關支出到2026年將超過3,000億美元；此外根據調查，有75%的企業資料將在2025年前是在資料中心外部產生與處理，這將推動企業部署更靈活、高效率的邊緣AI解決方案。無論是採用生成式AI或是預測性AI模型，邊緣AI將在智慧製造、自動化軌道檢測、醫療復健輔助等等場景中發揮強大優勢，而AI PC將在其中扮演關鍵角色。
王宗業表示，英特爾預期到2026年全球有80%的PC配備AI功能，估計市場首批AI PC出貨量將在2025年底達到1億台。英特爾的AI PC架構以Core Ultra處理器為基礎，結合繪圖處理器(GPU)和神經處理器(NPU)的AI加速能力，可提供卓越的效能和電源效率，在不同應用場景下滿足效能需求，包括會議摘要、聊天機器人、程式碼生成、影像超解析度處理及姿態估測等等，這些應用將AI的潛力釋放到工作與生活的每個層面，實現更高效能的使用者體驗。
英特爾平台研發協理王宗業
有了強大的AI PC硬體架構，由英特爾發行的開放性開發平台OpenVINO，則可支援從影像辨識到生成式AI的多種模型，讓使用者以高效率部署邊緣AI應用。OpenVINO工具套件支援多元的深度學習框架，包括PyTorch和TensorFlow，並提供最佳化模型的能力，可搭配英特爾硬體高效率運作，甚至跨平台支援Arm和RISC-V架構，讓開發者能在同一模型下靈活部署於筆記型電腦、邊緣設備和雲端環境中，大幅降低開發成本和技術門檻。
在實際應用中，OpenVINO展現了其在影像處理、物件偵測和生成式AI中的廣泛用途。例如可支援Yolo模型的快速部署，即時進行影像辨識，適用於智慧城市監控或醫療影像分析。此外，OpenVINO的工具還包含簡化部署流程的功能，能自動調整模型以搭配不同硬體性能，並透過內建的性能測試協助開發者快速驗證部署效率。
整體而言，OpenVINO的靈活性與高效率使其成為實現AI應用快速落地的關鍵技術平台。王宗業強調，英特爾的AI市場策略不僅是提升硬體效能，還將繼續透過推進開放性架構及軟體工具的功能性，降低AI應用部署的技術門檻，讓更多企業能快速進入生成式AI時代。
推動工業邊緣運算升級 英特爾TCC與即時解決方案發揮關鍵作用
這場講座的壓軸演說，則是由英特爾平台應用工程師賴梓雍(David Lai)重點介紹英特爾的Time Coordinated Computing (TCC)及即時解決方案，強調工業應用中的低延遲與高精度運算需求。他指出，TCC技術核心在於實現時間協調運算，為對延遲敏感的應用場景提供更佳的最壞情況執行時間。透過整合TCC與時間敏感網路(TSN)，英特爾能提供端對端的時間確定性，覆蓋從資料生產、傳輸到消費的全過程，特別適合工業自動化、智慧製造等領域。
根據賴梓雍的介紹，TCC技術透過最佳化CPU、PCIe以及記憶體傳輸，確保每個資料封包在應用程式到網路連結介面之間的傳輸延遲穩固，這項技術能實現同一設備上多任務的高效整合，例如將AI運算與即時控制結合在一台工業PC中運作，大幅提升系統資源的利用率。他在演講中展示的案例顯示，搭載英特爾處理器的工業設備在運算密集型應用中能保持穩定性能，同時支持多達數十個核心分配不同工作負載。
英特爾平台應用工程師賴梓雍
TCC技術能在包括智慧製造、醫療設備和自動化生產線等應用場景發揮功能，賴梓雍舉例指出，像是在工業設備的懸吊軌道中，確保攝影機在高移動速度下進行精準拍照與旋轉，無需停機煞車，從而顯著提升生產效率；此外在精密金屬切割和雷射應用中，TCC技術能將延遲控制在極低範圍內，確保加工精度達到微米級。TCC結合英特爾針對工業自動化和邊緣運算設計的Edge Control for Industrial (ECI)平台，以及ACRN虛擬化平台和Xenomai即時系統，能進一步提升多任務整合的靈活性與穩定性。
ACRN是一種輕量級虛擬化技術(Hypervisor)，支援多作業系統同時運作，例如讓RTOS處理即時控制任務，將AI推論與資料分析任務交由Linux執行，這種靈活的資源分配可降低硬體成本，並提升多功能整合能力；ACRN的虛擬化能力還能讓開發者在不同硬件平台間快速移植應用，縮短產品上市時間。Xenomai Based Real-Time System則進一步強化了TCC的即時性能，確保微秒級的延遲控制和穩定的抖動表現；例如在高速製造中的精密金屬切割，能確保機器的運動控制與生產節拍完全同步，實現卓越的加工精度。賴梓雍也在演講中分享了多個成功案例，包括與領先ODM/OEM廠商合作開發的設備，涵蓋從機器控制到能源管理的廣泛應用。
在以上精彩的演講內容之外，現場聽眾也與講師互動熱烈，並透過建智團隊現場展示即時應用實例，對於英特爾架構與軟硬體解決方案在即時性應用，以及創新邊緣AI應用部署方面的優勢有更深刻了解，收穫滿滿。
- 結合完整軟硬體生態系資源與創新AI技術 產業專家描繪「智造未來」 - 2024/11/22
- 想加速RAG開發？你需認識LLamaIndex框架 - 2024/11/21
- AI+無人機守護海域遊憩安全 台南市發表「智慧海灘」成果 - 2024/11/14
.jpg)
.jpg)