在家造AI神器!OpenVINO讓桌面推論觸手可及
AI PC是一台配備專門用於加速AI工作負載硬體的電腦,意味著我們可以高效率地運作包含AI模型的應用程式;透過精選的軟硬體,筆者將證明幾乎任何類型的AI應用都可以在本地運作。
【實作案例】以OpenVINO實現VLM、MLLM導入產業應用
本文從技術原理出發,結合理論與實測,展示了如何以Phi-3 Vision為核心模型,配合OpenVINO部署最佳化與YOLOv8偵測模組,建構可實際落地的多模態語言模型應用架構。
【Arm的AI世界】在Arm架構邊緣端裝置部署PyTorch模型
以Arm架構為基礎的處理器憑藉低功耗和高效率等優勢,在嵌入式系統中得到了廣泛應用。本文將為你展示如何在樹莓派或NVIDIA Jetson Nano 等Arm架構邊緣端裝置上部署PyTorch模型。
推探Hugging Face機器人策略
為何Hugging Face在短短數個月內連續提出各種機器人相關的軟硬體?在Hugging Face尚未正式官方說明前,筆者嘗試推敲其佈局策略。
產業觀察:MCU晶片商續購TinyML軟體
MCU晶片商持續購併TinyML軟體商,將購併而得的軟體技術與原有隨MCU晶片提供給客戶的軟體開發工具相結合,鼓勵客戶使用新開發工具撰寫TinyML應用。