加速英特爾GPU上的LLM:實用的動態量化指南
動態量化是一種強大的最佳化技術,能顯著提升Transformer模型在Intel GPU的性能,包括搭載於Lunar Lake、Arrow Lake處理器,配備XMX引擎的硬體,以及Alchemist、Battlemage等系列獨立顯卡。
以工程角度檢視NVIDIA Jetson Thor
有關NVIDIA Jetson Thor的規格已有相關報導,在此不贅述,筆者在此要討論的是Jetson Thor背後的實現工程,如同此前筆者曾討論過DGX Spark的GB10與DGX Station的GB300一樣。
強化對Agentic AI應用支援 聯發科天璣9500問世
聯發科發布天璣9500旗艦5G Agentic AI晶片,整合雙AI處理器NPU 990,號稱為裝置端AI體驗而生,峰值性能相較上一代提升111%,在大語言模型智慧摘要的輸出能力、多模態理解能力皆有大幅躍進,並率先達成4K畫質圖片生成。
NVIDIA Jetson Thor推升人形機器人晶片市場規模
NVIDIA推出的Jetson Thor如同機器人的實體智慧核心,市場研究機構TrendForce表示,在Agility Robotics、Boston Dynamics、Amazon等廠商陸續採用與建置生態圈的趨勢下,人形機器人晶片市場規模可望於2028年突破…
【創業小聚】韓國AI晶片新創DEEPX押寶台灣:「我們將定義AI時代!」
DEEPX的強項在於邊緣運算的晶片,算力要夠強、晶片要夠小,且不能耗費過多的能量,可適用於AI電腦、AI手機和人形機器人等場景。