|
加速英特爾GPU上的LLM:實用的動態量化指南
10 月09

加速英特爾GPU上的LLM:實用的動態量化指南

動態量化是一種強大的最佳化技術,能顯著提升Transformer模型在Intel GPU的性能,包括搭載於Lunar Lake、Arrow Lake處理器,配備XMX引擎的硬體,以及Alchemist、Battlemage等系列獨立顯卡。

Read More
平民化的AI機器人開源平台:LeRobot是什麼?
6 月13

平民化的AI機器人開源平台:LeRobot是什麼?

LeRobot 的誕生,讓機器人AI不再是少數大企業的專利,而是開放給所有熱愛創新的人。它的開箱即用預訓練模型、多模態學習技術、開放資料生態與端到端任務設計,大幅降低了開發門檻,成為學術研究、產業應用和個人創客的強大助力。

Read More
提升複雜場景辨識力:YOLOv12 向 Transformer 技術靠攏
5 月07

提升複雜場景辨識力:YOLOv12 向 Transformer 技術靠攏

YOLOv12也向Transformer技術靠攏!本文介紹其創新設計技術亮點。

Read More
打造健全Edge AI生態系 Arm扮演開發者堅實後盾
4 月11

打造健全Edge AI生態系 Arm扮演開發者堅實後盾

不久前,Arm正式發表首個為IoT裝置打造的Armv9架構平台,這是否意味著Edge AI市場終於將進一步擴大版圖,讓全球數量超過百億的IoT裝置都能更容易冠上一個「A」字母,實現真正的AI無所不在?

Read More
【Arm的AI世界】運用小語言模型在邊緣端實現生成式AI
2 月13

【Arm的AI世界】運用小語言模型在邊緣端實現生成式AI

儘管大語言模型(LLM)更廣為人知,但由於小語言模型(SLM)能夠以更少資源、較低成本提供出色的效能,而且訓練起來也更為簡易且成本更低,因此受到越來越多的關注;Arm展示了搭載Ethos-U85 NPU的系統晶片解決方案如何在嵌入式硬體上運作小語言模型。

Read More
Hugging Face vs. GitHub:兩大開發者平台的主要差異
12 月22

Hugging Face vs. GitHub:兩大開發者平台的主要差異

關於開發平台,大家最常聽到的無疑是Hugging Face和GitHub,它們對開發者是日常工作不可或缺的,但非開發者的你我可能還分不清兩者的定位差異,本文將比較兩者在功能與用途上有何不同。

Read More