|
OpenVINO×ExecuTorch:解鎖英特爾架構AI PC模型推論效能新境界
11 月21

OpenVINO×ExecuTorch:解鎖英特爾架構AI PC模型推論效能新境界

在這篇深度解析技術文章,我們將探討ExecuTorch的OpenVINO後端——這是一種專為簡化異質運算複雜度而設計的解決方案,讓單一模型能智慧地運用CPU、GPU與NPU的專有功能,達到近乎原生的效能表現。

Read More
你的AI部署準備就緒了嗎?Cisco:「領導者」企業正創造實質回報
10 月23

你的AI部署準備就緒了嗎?Cisco:「領導者」企業正創造實質回報

Cisco日前發佈第三年度《人工智慧準備度指數》調查。在台灣接受調查的企業中,僅8% 受訪企業展現出「領導者」(Pacesetters)特質,而全球平均為13%。過去三年,這群少數屬於「領導者」的企業,在實現AI價值的各項指標上均領先同業

Read More
讓生成式AI應用在Intel架構系統本地端高效率運作的訣竅
10 月16

讓生成式AI應用在Intel架構系統本地端高效率運作的訣竅

各種AI模型正進駐PC,而且它們變得更聰明、快速、強大;然而,仍會有一個問題:如何在不同的硬體加速器──例如英特爾的GPU或NPU──上讓模型發揮最佳效能?

Read More
英特爾揭曉AI運算新時代藍圖:首批18A製程AI PC/伺服器處理器就緒
10 月15

英特爾揭曉AI運算新時代藍圖:首批18A製程AI PC/伺服器處理器就緒

Panther Lake、Clearwater Forest及多代採用Intel 18A的產品,都是在美國亞利桑那州錢德勒市(Chandler)最先進的Fab 52晶圓廠進行生產。英特爾執行長陳立武表示:「我們正邁入一個令人興奮的運算新時代…

Read More
加速英特爾GPU上的LLM:實用的動態量化指南
10 月09

加速英特爾GPU上的LLM:實用的動態量化指南

動態量化是一種強大的最佳化技術,能顯著提升Transformer模型在Intel GPU的性能,包括搭載於Lunar Lake、Arrow Lake處理器,配備XMX引擎的硬體,以及Alchemist、Battlemage等系列獨立顯卡。

Read More
【Arm的AI世界】GitHub與Arm為開發者徹底改變在Windows上的開發作業
10 月07

【Arm的AI世界】GitHub與Arm為開發者徹底改變在Windows上的開發作業

GitHub與Arm緊密合作,致力於最佳化在Arm平台上開發的體驗,透過強化的工作流程,整合原生Arm runner、內建必要工具與函式庫的映像檔,以及GitHub Copilot Extensions,協助開發者運用AI加速開發。

Read More