MakerPRO

單元
技術導讀
教學文

認識IPEX-LLM：LLM模型最佳化的PyTorch工具

5 月 9Posted by owenou in Intel, LLM, OpenVINO, PyTorch, 技術導讀

IPEX-LLM是英特爾為其 XPU（Xeon/Core/Flex/Arc/PVC）提出的低位元 LLM 開源（Apache 2.0授權）函式庫，是專為 PyTorch 生態打造的LLM執行擴充套件，具有廣泛的模型支援、低延遲和記憶體佔用小等優勢。

量子國家隊聯手仁寶開發退火運算應用

5 月 8Posted by MakerPRO編輯部 in 技術新訊, 新聞稿

由國科會補助支持的國立成功大學副教授舒宇宸主持之數位退火研發推動計畫，近日宣佈與仁寶電腦啟動合作，將共同加速開發量子啟發運算的實務應用。

提升複雜場景辨識力：YOLOv12 向 Transformer 技術靠攏

5 月 7Posted by MakerPRO編輯部 in Transformer, Vision Transformer, VLM, YOLOv5/7/8, 技術導讀

YOLOv12也向Transformer技術靠攏！本文介紹其創新設計技術亮點。

ADI低功耗AI MCU – MAX78000，適用電池供電環境

5 月 7Posted by MakerPRO編輯部 in ADI, PyTorch, TensorFlow, 解決方案

Analog Devices（ADI）推出的MAX78000，是一款針對Edge AI應用設計的超低功耗微控制器（Microcontroller Unit, MCU），專為在資源有限的邊緣設備上執行神經網路推論而打造。

耐能與Spark合作推出AI VMS整合方案

5 月 6Posted by MakerPRO編輯部 in Edge AI應用案例, 新聞稿, 物件偵測, 產品新訊

隨著AI技術快速演進，傳統VMS（Video Management System）監控管理架構已無法滿足現代社會對於安全與效率的雙重要求。為此，Spark迪維科與耐能（Kneron）合作，推出結合可重構式NPU與AI辨識模型的全新一代AI VMS解決方案──Argo。

APMIC宣佈Formosa-1語言模型已與MCP協議深度整合

5 月 5Posted by MakerPRO編輯部 in Edge AI開發地圖, 新聞稿, 產品新訊

APMIC與Twinkle AI社群開發之輕量級3B參數語言模型「Formosa-1」，現已可與模型上下文協定(MCP)進行深度整合。

AI程式助手：GitHub Copilot 是什麼？

5 月 4Posted by MakerPRO編輯部 in 技術導讀

AI程式助手是一項結合人工智慧與軟體開發的創新工具，無論是加速專案開發、減少錯誤，或作為學習的輔助，都是當代開發者不可忽視的利器。本文介紹熱門的Github Copilot，以及3個類似的工具。

【Arm的AI世界】以ExecuTorch和KleidiAI執行LLM推論　充分釋放行動端AI潛力！

5 月 2Posted by Arm作者群 in Arm, Arm的AI世界, Edge AI開發地圖, LLM, 技術導讀, 技術新訊, 物聯網, 量化技術

受惠於Arm和Meta工程團隊的協作，AI開發人員可在具有i8mm ISA擴展的基於Armv9架構之Arm Cortex-A CPU上部署Llama量化模型，運作速度最高可提升20%；本文將分享更多細節，包括…

Ceva NPU為Nextchip新一代ADAS方案提供更清晰視覺

5 月 1Posted by MakerPRO編輯部 in Edge AI, 新聞稿, 產品新訊

晶片和軟體IP授權廠商Ceva的NeuPro-M邊緣人工智慧NPU IP已授權Nextchip，應用於其下一代先進駕駛輔助系統(ADAS)解決方案。

NVIDIA與Google的通用機器人AI技術是競爭或互補？

4 月 30Posted by MakerPRO編輯部 in AI Robot, Google, Multimodal, NVIDIA, Physical AI, Vision Transformer, VLM, 技術導讀, 技術新訊

NVIDIA與Google持續提出通用型機器人AI（Generalist Robot AI）架構，本文將從兩者的相似性與互補性進行探討，以提供對通用機器人AI合作與融合可能性的分析展望。

Load More Posts

認識IPEX-LLM：LLM模型最佳化的PyTorch工具

5 月 9Posted by owenou in Intel, LLM, OpenVINO, PyTorch, 技術導讀

提升複雜場景辨識力：YOLOv12 向 Transformer 技術靠攏

5 月 7Posted by MakerPRO編輯部 in Transformer, Vision Transformer, VLM, YOLOv5/7/8, 技術導讀

YOLOv12也向Transformer技術靠攏！本文介紹其創新設計技術亮點。

AI程式助手：GitHub Copilot 是什麼？

5 月 4Posted by MakerPRO編輯部 in 技術導讀

【Arm的AI世界】以ExecuTorch和KleidiAI執行LLM推論　充分釋放行動端AI潛力！

5 月 2Posted by Arm作者群 in Arm, Arm的AI世界, Edge AI開發地圖, LLM, 技術導讀, 技術新訊, 物聯網, 量化技術

NVIDIA與Google的通用機器人AI技術是競爭或互補？

4 月 30Posted by MakerPRO編輯部 in AI Robot, Google, Multimodal, NVIDIA, Physical AI, Vision Transformer, VLM, 技術導讀, 技術新訊

訓練機器人互相學習：DeepMind 的 RT-X基礎模型

4 月 28Posted by owenou in AI Robot, Multimodal, VLM, 技術導讀, 教學文

本文介紹由Google DeepMind主導推動的通用機器人AI基礎模型 – Robotic Transformer的先進模型：RT-X。

YOLOv12的改變：向Transformer、Attention靠攏！

4 月 23Posted by MakerPRO編輯部 in Vision Transformer, VLM, YOLOv5/7/8, 技術導讀, 技術新訊, 物件偵測

最新版本的YOLOv12延續了 YOLO 系列一貫的「高速 + 準確」的設計理念，但在架構、訓練方法與推論效率方面均有顯著改進，並且更加靠近 transformer 技術與多模態學習的整合，本文將做個介紹。

用OpenVINO GenAI解鎖LLM極速推論：推測式解碼讓AI爆發潛能

4 月 23Posted by 武卓 in AIGC, Edge AI教學文, Edge AI解決方案, Edge AI開發地圖, Intel, LLM, OpenVINO, OpenVINO專欄, OpenVINO教學文, 技術導讀, 教學文

借助簡化開發和最佳化硬體利用率的工具，OpenVINO使開發者能夠在各種即時和資源受限的場景中部署高性能的LLM；無論是構建回應迅速的聊天機器人或高效率虛擬助手，還是具備可擴展性的創意應用，OpenVINO正在重新定義AI推論的可能性。本文將探討如何利用OpenVINO GenAI的推測式解碼技術使這一變革性創新成為現實。