玩轉 AI 機器人的新境界 – Now and Future
|
認識IPEX-LLM:LLM模型最佳化的PyTorch工具
5 月09

認識IPEX-LLM:LLM模型最佳化的PyTorch工具

IPEX-LLM是英特爾為其 XPU(Xeon/Core/Flex/Arc/PVC)提出的低位元 LLM 開源(Apache 2.0授權)函式庫,是專為 PyTorch 生態打造的LLM執行擴充套件,具有廣泛的模型支援、低延遲和記憶體佔用小等優勢。

Read More
提升複雜場景辨識力:YOLOv12 向 Transformer 技術靠攏
5 月07

提升複雜場景辨識力:YOLOv12 向 Transformer 技術靠攏

YOLOv12也向Transformer技術靠攏!本文介紹其創新設計技術亮點。

Read More
ADI低功耗AI MCU – MAX78000,適用電池供電環境
5 月07

ADI低功耗AI MCU – MAX78000,適用電池供電環境

Analog Devices(ADI)推出的MAX78000,是一款針對Edge AI應用設計的超低功耗微控制器(Microcontroller Unit, MCU),專為在資源有限的邊緣設備上執行神經網路推論而打造。

Read More
YOLOv12的改變:向Transformer、Attention靠攏!
4 月23

YOLOv12的改變:向Transformer、Attention靠攏!

最新版本 的YOLOv12延續了 YOLO 系列一貫的「高速 + 準確」的設計理念,但在架構、訓練方法與推論效率方面均有顯著改進,並且更加靠近 transformer 技術與多模態學習的整合,本文將做個介紹。

Read More
用OpenVINO GenAI解鎖LLM極速推論:推測式解碼讓AI爆發潛能
4 月23

用OpenVINO GenAI解鎖LLM極速推論:推測式解碼讓AI爆發潛能

借助簡化開發和最佳化硬體利用率的工具,OpenVINO使開發者能夠在各種即時和資源受限的場景中部署高性能的LLM;無論是構建回應迅速的聊天機器人或高效率虛擬助手,還是具備可擴展性的創意應用,OpenVINO正在重新定義AI推論的可能性。本文將探討如何利用OpenVINO GenAI的推測式解碼技術使這一變革性創新成為現實。

Read More
用Yocto Project打造輕量、客製化、高性能的 AI 邊緣系統
4 月17

用Yocto Project打造輕量、客製化、高性能的 AI 邊緣系統

如果想打造輕量、可客製化、高性能的 AI 邊緣系統,Yocto Project 是其中的一個選擇。本文介紹Yocto支援主流AI運算架構現況及整合AI開發案例。

Read More