認識IPEX-LLM:LLM模型最佳化的PyTorch工具
IPEX-LLM是英特爾為其 XPU(Xeon/Core/Flex/Arc/PVC)提出的低位元 LLM 開源(Apache 2.0授權)函式庫,是專為 PyTorch 生態打造的LLM執行擴充套件,具有廣泛的模型支援、低延遲和記憶體佔用小等優勢。
ADI低功耗AI MCU – MAX78000,適用電池供電環境
Analog Devices(ADI)推出的MAX78000,是一款針對Edge AI應用設計的超低功耗微控制器(Microcontroller Unit, MCU),專為在資源有限的邊緣設備上執行神經網路推論而打造。
【Arm的AI世界】以ExecuTorch和KleidiAI執行LLM推論 充分釋放行動端AI潛力!
受惠於Arm和Meta工程團隊的協作,AI開發人員可在具有i8mm ISA擴展的基於Armv9架構之Arm Cortex-A CPU上部署Llama量化模型,運作速度最高可提升20%;本文將分享更多細節,包括…
NVIDIA與Google的通用機器人AI技術是競爭或互補?
NVIDIA與Google持續提出通用型機器人AI(Generalist Robot AI)架構,本文將從兩者的相似性與互補性進行探討,以提供對通用機器人AI合作與融合可能性的分析展望。
JavaScript 開發者點進來! 整合 Node.js 與 Arduino Cloud 控制 Raspberry Pi GPIO
物聯網專案需要遠端主控板,讓您能即時看到現在及過去的資料,並能隨時隨地控制設備。而使用 Arduino Cloud,以上這些都能輕鬆搞定!本篇文章,會介紹怎麼用 Node.js 和 Arduino Cloud ,將您的物聯網技能提升至下一個等級!
從主控晶片檢視NVIDIA AIPC:DGX Spark、DGX Station
DGX Spark是NVIDIA倡議的AIPC參考設計,提供給各品牌系統商以此為基礎再行修改調整而後銷售,而除了DGX Spark外,NVIDIA也發表另一款AIPC參考設計:DGX Station,本篇文章會針對此兩款設計做簡單的介紹。