OpenVINO工具套件AI程式講座
|
【Arm的AI世界】以ExecuTorch和KleidiAI執行LLM推論 充分釋放行動端AI潛力!
5 月02

【Arm的AI世界】以ExecuTorch和KleidiAI執行LLM推論 充分釋放行動端AI潛力!

受惠於Arm和Meta工程團隊的協作,AI開發人員可在具有i8mm ISA擴展的基於Armv9架構之Arm Cortex-A CPU上部署Llama量化模型,運作速度最高可提升20%;本文將分享更多細節,包括…

Read More
NVIDIA與Google的通用機器人AI技術是競爭或互補?
4 月30

NVIDIA與Google的通用機器人AI技術是競爭或互補?

NVIDIA與Google持續提出通用型機器人AI(Generalist Robot AI)架構,本文將從兩者的相似性與互補性進行探討,以提供對通用機器人AI合作與融合可能性的分析展望。

Read More
JavaScript 開發者點進來! 整合 Node.js 與 Arduino Cloud 控制 Raspberry Pi GPIO
4 月29

JavaScript 開發者點進來! 整合 Node.js 與 Arduino Cloud 控制 Raspberry Pi GPIO

物聯網專案需要遠端主控板,讓您能即時看到現在及過去的資料,並能隨時隨地控制設備。而使用 Arduino Cloud,以上這些都能輕鬆搞定!本篇文章,會介紹怎麼用 Node.js 和 Arduino Cloud ,將您的物聯網技能提升至下一個等級!

Read More
從主控晶片檢視NVIDIA AIPC:DGX Spark、DGX Station
4 月25

從主控晶片檢視NVIDIA AIPC:DGX Spark、DGX Station

DGX Spark是NVIDIA倡議的AIPC參考設計,提供給各品牌系統商以此為基礎再行修改調整而後銷售,而除了DGX Spark外,NVIDIA也發表另一款AIPC參考設計:DGX Station,本篇文章會針對此兩款設計做簡單的介紹。

Read More
用OpenVINO GenAI解鎖LLM極速推論:推測式解碼讓AI爆發潛能
4 月23

用OpenVINO GenAI解鎖LLM極速推論:推測式解碼讓AI爆發潛能

借助簡化開發和最佳化硬體利用率的工具,OpenVINO使開發者能夠在各種即時和資源受限的場景中部署高性能的LLM;無論是構建回應迅速的聊天機器人或高效率虛擬助手,還是具備可擴展性的創意應用,OpenVINO正在重新定義AI推論的可能性。本文將探討如何利用OpenVINO GenAI的推測式解碼技術使這一變革性創新成為現實。

Read More
英飛凌PSOC Edge系列MCU開始支援NVIDIA TAO模型
4 月21

英飛凌PSOC Edge系列MCU開始支援NVIDIA TAO模型

在邊緣裝置上開發最新的AI模型,並在MCU上部署模型的工作流程,對開發者來說是一項極大的挑戰。為此英飛凌科技(Infineon)宣佈旗下PSOC Edge MCU系列開始支援NVIDIA TAO模型…

Read More