OpenVINO全新GenAI API：幾行程式碼就能快速建立GenAI App！
全新的OpenVINO GenAI API為開發者提供了更簡單與清晰的程式碼；這意味著除了提供電腦視覺、AI加速與最佳化程式庫，OpenVINO現在也是開發者實現GenAI應用的助力。
Mbed OS即將凍結！轉向融入開放專案Zephyr OS
最近創客（Maker）圈極轟動的消息是Arm宣佈Mebd OS將停止發展，後續將轉向Zephyr專案。這乍聽是個受挫消息，但自筆者的角度看這是合理且對各方均有利的新發展，請見本文剖析。
OpenVINO 2024.2姿態模型效能評估：以OpenPose、YOLOv8與3D-Pose為例
本文主要於ASRock NUC BOX-155H平台進行，使用Intel Core Ultra運作的NUC (下一代計算單元)。我們將姿態辨識模型OpenPose、3D Pose、MoveNet 與 YOLOv8 模型轉換為OpenVINO IR模型格式，分別在CPU、iGPU及NPU上進行部署。觀察這些模型在CPU、iGPU及NPU的硬體效能差異，透過實際執行影片推論的過程，觀察NPU的性能表現。
【Arm的AI世界】助力TinyML開發 最新版Keil MDK問世
多年來，Arm提供Keil 微控制器開發套件 (Keil MDK)。這是針對基於Cortex-M打造的嵌入式、物聯網和邊緣ML應用所推出，最全面的軟體開發解決方案。Arm在近期正式發佈了Keil MDK第六版 (以下簡稱MDK v6)，針對整個Arm Cortex-M和Arm Ethos-U處理器產品系列進行了最佳化。
【產業觀察】大廠、新創競逐小型語言模型（SLM）技術市場
生成式AI運算量龐大，若用運算力小的系統來執行LLM/GenAI要很久才能回應，因此各界開始嘗試將模型縮小，在可接受的準確性犧牲下將模型減肥、輕量化，稱為小語言模型：SLM。
【樹莓派AI套件更新】開始能用Hailo的Dataflow編譯器
今年6月份，樹莓派AI Kit 開始發售後，已經在套件內隨附許多可以執行的AI範例程式，但相隔約一個月時間再釋出利多，對於樹莓派的深入用戶而言，可以在AI套件上使用以色列AI新創公司Hailo的Dataflow編譯器。