Arm與GitHub聯手助力軟體開發者簡化AI應用部署流程
Arm宣佈與發者社群GitHub合作,結合其運算平台與GitHub Copilot工具的優勢推動軟體開發領域的變革--借助Copilot的 AI 程式碼建議,開發人員可以在Arm平台上更有效率地編寫、測試和最佳化程式碼。
恩智浦為eIQ軟體增加新工具以支援各種邊緣AI部署
NXP Semiconductors在其eIQ AI和機器學習開發軟體新增兩款新工具,包括具有RAG微調功能的GenAI Flow和eIQ Time Series Studio;讓開發者能更輕鬆跨越從MCU到大型MPU等各種邊緣處理器,部署並運用AI。
【 Edge AI專欄】使用Intel OpenVINO搭配YOLOv11輕鬆駕馭姿態偵測
Intel OpenVINO 在開源範例庫 Notebooks 上給出 YOLOv11 物件偵測、姿態估測及影像分割等三個案例。本篇文章,會跟著源碼說明來了解一下如何運行 【姿態估測】 範例「Convert and Optimize YOLOv11 keypoint detection model with OpenVINO™」及動作原理。
TinyML潛力股!MicroFlow挑戰TensorFlow Lite for Microcontrollers
近期有個MicroFlow試圖挑戰TFLM,包含相同模型條件下的推論速度、記憶體佔量、用電量、最低可執行使用的硬體水準等。本篇文章會針對MicroFlow與TFLM,進行簡單的效能對比。
【技術導讀】Google推出Web API技術,用瀏覽器運行LLM沒問題!
Google推出網頁版 LLM 推論API,使在瀏覽器中運行小型大型語言模型(LLMs)成為可能。此一Web API技術的特色通過 WebAssembly 和 WebGPU 效率地利用設備端的 GPU 來加速運算,克服了記憶體限制,甚至可以在瀏覽器中運行更大的模型,例如Gemma 1.1 7B。