LLM性能再強化 OpenVINO 2024.3隆重發佈!
OpenVINO 2024.3版本現在已經正式推出!這次更新帶來了新的功能,並對現有功能進行了強化,特別是大型語言模型(LLM)的性能;本文將介紹此新版本的關鍵進展。
【Maker電子學】Flash 記憶體的原理與應用—PART9
本篇文章以 24LC64 這顆 I2C EEPROM 為例,講解其寫入模式,說明它為何寫入速度慢,以及在寫入時,需要做哪些特別的等待處理。
OpenVINO全新GenAI API:幾行程式碼就能快速建立GenAI App!
全新的OpenVINO GenAI API為開發者提供了更簡單與清晰的程式碼;這意味著除了提供電腦視覺、AI加速與最佳化程式庫,OpenVINO現在也是開發者實現GenAI應用的助力。
Mbed OS即將凍結!轉向融入開放專案Zephyr OS
最近創客(Maker)圈極轟動的消息是Arm宣佈Mebd OS將停止發展,後續將轉向Zephyr專案。這乍聽是個受挫消息,但自筆者的角度看這是合理且對各方均有利的新發展,請見本文剖析。
OpenVINO 2024.2姿態模型效能評估:以OpenPose、YOLOv8與3D-Pose為例
本文主要於ASRock NUC BOX-155H平台進行,使用Intel Core Ultra運作的NUC (下一代計算單元)。我們將姿態辨識模型OpenPose、3D Pose、MoveNet 與 YOLOv8 模型轉換為OpenVINO IR模型格式,分別在CPU、iGPU及NPU上進行部署。觀察這些模型在CPU、iGPU及NPU的硬體效能差異,透過實際執行影片推論的過程,觀察NPU的性能表現。
【Arm的AI世界】助力TinyML開發 最新版Keil MDK問世
多年來,Arm提供Keil 微控制器開發套件 (Keil MDK)。這是針對基於Cortex-M打造的嵌入式、物聯網和邊緣ML應用所推出,最全面的軟體開發解決方案。Arm在近期正式發佈了Keil MDK第六版 (以下簡稱MDK v6),針對整個Arm Cortex-M和Arm Ethos-U處理器產品系列進行了最佳化。