用OpenVINO GenAI解鎖LLM極速推論：推測式解碼讓AI爆發潛能
借助簡化開發和最佳化硬體利用率的工具，OpenVINO使開發者能夠在各種即時和資源受限的場景中部署高性能的LLM；無論是構建回應迅速的聊天機器人或高效率虛擬助手，還是具備可擴展性的創意應用，OpenVINO正在重新定義AI推論的可能性。本文將探討如何利用OpenVINO GenAI的推測式解碼技術使這一變革性創新成為現實。
英飛凌PSOC Edge系列MCU開始支援NVIDIA TAO模型
在邊緣裝置上開發最新的AI模型，並在MCU上部署模型的工作流程，對開發者來說是一項極大的挑戰。為此英飛凌科技(Infineon)宣佈旗下PSOC Edge MCU系列開始支援NVIDIA TAO模型…
Hailo在樹莓派上實證LLM技術的語音識別
樹莓派公司與Hailo合作，推出Raspberry Pi AI Kit、Raspberry Pi AI HAT+兩款加速模組，只要將加速模組加裝到樹莓派上，即可讓樹莓派電腦獲得AI加速效果。
擴充能力再強化 群聯升級邊緣AI訓練與推論解決方案
NAND控制晶片暨儲存方案供應商群聯(Phison)宣布，其邊緣AI訓練與推論解決方案aiDAPTIV+再度升級，提供更多擴充能力。
讓低功耗行動AI落地！OpenMV推 AI 相機模組
創客熟悉的OpenMV也推出內嵌NPU、支援行動AI運算的相機模組了，其核心分別來自ST及ALIF，並上架Kickstarter達標了。這兩款模組的技術特色為何，且看本文介紹。
Physical AI近了！如何打造「通用又專才」的機器人？
如何透過Physical AI讓機器人結合語言理解、視覺感知、策略推理和動作控制等多模態 AI 能力，最終能像「真人」自主且適性地執行多種任務？NVIDIA嘗試提出開放式基礎模型： GR00T N1，以及眾多配套技術，且看本文的介紹。