邊緣系統VLM視覺理解推論實作工作坊
|
認識IPEX-LLM:LLM模型最佳化的PyTorch工具
5 月09

認識IPEX-LLM:LLM模型最佳化的PyTorch工具

IPEX-LLM是英特爾為其 XPU(Xeon/Core/Flex/Arc/PVC)提出的低位元 LLM 開源(Apache 2.0授權)函式庫,是專為 PyTorch 生態打造的LLM執行擴充套件,具有廣泛的模型支援、低延遲和記憶體佔用小等優勢。

Read More
提升複雜場景辨識力:YOLOv12 向 Transformer 技術靠攏
5 月07

提升複雜場景辨識力:YOLOv12 向 Transformer 技術靠攏

YOLOv12也向Transformer技術靠攏!本文介紹其創新設計技術亮點。

Read More
AI程式助手:GitHub Copilot 是什麼?
5 月04

AI程式助手:GitHub Copilot 是什麼?

AI程式助手是一項結合人工智慧與軟體開發的創新工具,無論是加速專案開發、減少錯誤,或作為學習的輔助,都是當代開發者不可忽視的利器。本文介紹熱門的Github Copilot,以及3個類似的工具。

Read More
【Arm的AI世界】以ExecuTorch和KleidiAI執行LLM推論 充分釋放行動端AI潛力!
5 月02

【Arm的AI世界】以ExecuTorch和KleidiAI執行LLM推論 充分釋放行動端AI潛力!

受惠於Arm和Meta工程團隊的協作,AI開發人員可在具有i8mm ISA擴展的基於Armv9架構之Arm Cortex-A CPU上部署Llama量化模型,運作速度最高可提升20%;本文將分享更多細節,包括…

Read More
NVIDIA與Google的通用機器人AI技術是競爭或互補?
4 月30

NVIDIA與Google的通用機器人AI技術是競爭或互補?

NVIDIA與Google持續提出通用型機器人AI(Generalist Robot AI)架構,本文將從兩者的相似性與互補性進行探討,以提供對通用機器人AI合作與融合可能性的分析展望。

Read More
訓練機器人互相學習:DeepMind 的 RT-X基礎模型
4 月28

訓練機器人互相學習:DeepMind 的 RT-X基礎模型

本文介紹由Google DeepMind主導推動的通用機器人AI基礎模型 – Robotic Transformer的先進模型:RT-X。

Read More