|
認識IPEX-LLM:LLM模型最佳化的PyTorch工具
5 月09

認識IPEX-LLM:LLM模型最佳化的PyTorch工具

IPEX-LLM是英特爾為其 XPU(Xeon/Core/Flex/Arc/PVC)提出的低位元 LLM 開源(Apache 2.0授權)函式庫,是專為 PyTorch 生態打造的LLM執行擴充套件,具有廣泛的模型支援、低延遲和記憶體佔用小等優勢。

Read More
ADI低功耗AI MCU – MAX78000,適用電池供電環境
5 月07

ADI低功耗AI MCU – MAX78000,適用電池供電環境

Analog Devices(ADI)推出的MAX78000,是一款針對Edge AI應用設計的超低功耗微控制器(Microcontroller Unit, MCU),專為在資源有限的邊緣設備上執行神經網路推論而打造。

Read More
【Arm的AI世界】以ExecuTorch和KleidiAI執行LLM推論 充分釋放行動端AI潛力!
5 月02

【Arm的AI世界】以ExecuTorch和KleidiAI執行LLM推論 充分釋放行動端AI潛力!

受惠於Arm和Meta工程團隊的協作,AI開發人員可在具有i8mm ISA擴展的基於Armv9架構之Arm Cortex-A CPU上部署Llama量化模型,運作速度最高可提升20%;本文將分享更多細節,包括…

Read More
NVIDIA與Google的通用機器人AI技術是競爭或互補?
4 月30

NVIDIA與Google的通用機器人AI技術是競爭或互補?

NVIDIA與Google持續提出通用型機器人AI(Generalist Robot AI)架構,本文將從兩者的相似性與互補性進行探討,以提供對通用機器人AI合作與融合可能性的分析展望。

Read More
JavaScript 開發者點進來! 整合 Node.js 與 Arduino Cloud 控制 Raspberry Pi GPIO
4 月29

JavaScript 開發者點進來! 整合 Node.js 與 Arduino Cloud 控制 Raspberry Pi GPIO

物聯網專案需要遠端主控板,讓您能即時看到現在及過去的資料,並能隨時隨地控制設備。而使用 Arduino Cloud,以上這些都能輕鬆搞定!本篇文章,會介紹怎麼用 Node.js 和 Arduino Cloud ,將您的物聯網技能提升至下一個等級!

Read More
從主控晶片檢視NVIDIA AIPC:DGX Spark、DGX Station
4 月25

從主控晶片檢視NVIDIA AIPC:DGX Spark、DGX Station

DGX Spark是NVIDIA倡議的AIPC參考設計,提供給各品牌系統商以此為基礎再行修改調整而後銷售,而除了DGX Spark外,NVIDIA也發表另一款AIPC參考設計:DGX Station,本篇文章會針對此兩款設計做簡單的介紹。

Read More