|
認識Qualcomm AI 模型優化工具：AIMET
3 月04

認識Qualcomm AI 模型優化工具：AIMET

Posted By on 3 月 4, 2025 in ONNX, PyTorch, Qualcomm, TensorFlow, 技術導讀, 知識庫

AIMET是 Qualcomm 開發的一套 AI 模型優化工具，它透過壓縮和量化技術來縮小模型，同時保持任務的準確性，有助於提高其在資源受限設備（如手機、邊緣裝置、IoT 設備）上的運行效率。

Read More
【Arm的AI世界】以TinyML為基礎的高效率嵌入式電腦視覺
12 月05

【Arm的AI世界】以TinyML為基礎的高效率嵌入式電腦視覺

Posted By on 12 月 5, 2024 in Arm的AI世界, Edge AI, Edge AI應用案例, Edge AI解決方案, Edge AI開發地圖, Edge AI開發環境, Himax, Seeed Studio, TensorFlow, TinyML, 教學文, 評測

本文將透過在配備Ethos-U55 NPU的現代微控制器上執行兩個TinyML應用，來展示NPU的效能優勢。我們將分別在採用和不採用Ethos-U55 NPU的微控制器上運作應用中所使用的 ML模型，以此對推論延遲進行基準測試。

Read More
TinyML潛力股！MicroFlow挑戰TensorFlow Lite for Microcontrollers
10 月15

TinyML潛力股！MicroFlow挑戰TensorFlow Lite for Microcontrollers

Posted By on 10 月 15, 2024 in TensorFlow, TinyML, 技術新訊, 特寫, 陸向陽

近期有個MicroFlow試圖挑戰TFLM，包含相同模型條件下的推論速度、記憶體佔量、用電量、最低可執行使用的硬體水準等。本篇文章會針對MicroFlow與TFLM，進行簡單的效能對比。

Read More
【技術導讀】Google推出Web API技術，用瀏覽器運行LLM沒問題！
10 月11

【技術導讀】Google推出Web API技術，用瀏覽器運行LLM沒問題！

Posted By on 10 月 11, 2024 in Gemma, Mediapipe, TensorFlow, 技術導讀

Google推出網頁版 LLM 推論API，使在瀏覽器中運行小型大型語言模型（LLMs）成為可能。此一Web API技術的特色通過 WebAssembly 和 WebGPU 效率地利用設備端的 GPU 來加速運算，克服了記憶體限制，甚至可以在瀏覽器中運行更大的模型，例如Gemma 1.1 7B。

Read More
【Arm的AI世界】Python在Arm平台上的應用
9 月04

【Arm的AI世界】Python在Arm平台上的應用

Posted By on 9 月 4, 2024 in AI PC, Arm, Arm, Arm的AI世界, Edge AI, Edge AI教學文, Edge AI解決方案, Edge AI開發地圖, Edge AI開發學習, Edge AI開發環境, TensorFlow, TinyML, 技術新訊, 教學文

這篇文章將概述Python在Arm平台上－－主要是在Linux與Windows作業系統上－－的應用。Python程式語言通用性極高、相當受歡迎，可用在不同的環境中…

Read More
Arm新一代Ethos-U NPU與IoT參考設計平台亮相
4 月10

Arm新一代Ethos-U NPU與IoT參考設計平台亮相

Posted By on 4 月 10, 2024 in AIGC, Arm, Edge AI, Edge AI解決方案, Edge AI開發地圖, TensorFlow, TinyML, 新聞稿

Arm的嵌入式AI加速器Ethos-U系列NPU再添新成員U85；與上一代產品相比，Ethos-U85的效能號稱提升四倍，並提高了20%功耗效率…

Read More