加速英特爾GPU上的LLM:實用的動態量化指南
動態量化是一種強大的最佳化技術,能顯著提升Transformer模型在Intel GPU的性能,包括搭載於Lunar Lake、Arrow Lake處理器,配備XMX引擎的硬體,以及Alchemist、Battlemage等系列獨立顯卡。
宣佈收購Arduino 高通積極拉攏Edge AI開發者社群
高通(Qualcomm Technologies, Inc.)宣布收購開源硬體與軟體領導品牌Arduino,藉此強化其邊緣運算與人工智慧(AI)生態系布局。
【Arm的AI世界】GitHub與Arm為開發者徹底改變在Windows上的開發作業
GitHub與Arm緊密合作,致力於最佳化在Arm平台上開發的體驗,透過強化的工作流程,整合原生Arm runner、內建必要工具與函式庫的映像檔,以及GitHub Copilot Extensions,協助開發者運用AI加速開發。
WorldVLA:視覺、語言與動作的融合之路
WorldVLA 是一個自回歸動作世界模型,它將動作和圖像的理解與生成統一起來。 WorldVLA 將視覺-語言-動作 (VLA) 模型(動作模型)和世界模型整合在一個框架中。
以工程角度檢視NVIDIA Jetson Thor
有關NVIDIA Jetson Thor的規格已有相關報導,在此不贅述,筆者在此要討論的是Jetson Thor背後的實現工程,如同此前筆者曾討論過DGX Spark的GB10與DGX Station的GB300一樣。