Edge AI開發環境 Archives | 第 3 頁，總計 33 頁

10 月15

TinyML潛力股！MicroFlow挑戰TensorFlow Lite for Microcontrollers

近期有個MicroFlow試圖挑戰TFLM，包含相同模型條件下的推論速度、記憶體佔量、用電量、最低可執行使用的硬體水準等。本篇文章會針對MicroFlow與TFLM，進行簡單的效能對比。

10 月11

Google推出網頁版 LLM 推論API，使在瀏覽器中運行小型大型語言模型（LLMs）成為可能。此一Web API技術的特色通過 WebAssembly 和 WebGPU 效率地利用設備端的 GPU 來加速運算，克服了記憶體限制，甚至可以在瀏覽器中運行更大的模型，例如Gemma 1.1 7B。

10 月08

ADI推出以開發者為中心的套件，藉由整合跨裝置、跨市場的硬體、軟體和服務，協助客戶以更快的速度和更高的安全性實現智慧邊緣創新。新發表的套件以CodeFusion Studio為核心，是一個以Microsoft Visual Studio Code為基礎的多功能嵌入式軟體開發環境…

10 月05

微調過程是將預訓練的模型適應於特定任務的關鍵步驟。如何實作呢？ Roboflow Blog的這篇文章及教學影片探討了如何微調GPT-4o 以進行物件偵測。

10 月03

對於各類需要理解攝影鏡頭和視訊資料的AI應用來說，電腦視覺(CV) 都在其中扮演關鍵角色。Arm KleidiCV 是一個針對Arm CPU最佳化的效能關鍵型常式的開源軟體程式庫，專為與各種電腦視覺框架整合而設計…

10 月01

OpenVINO GenAI API提供了原生C++介面，免除對Python依賴項的需求，讓開發者能以更節省資源的方法打造AI應用。本文提供了使用Windows作業系統為範例，逐步構建OpenVINO GenAI 應用程式的指南。