【CES 2024】從PC到邊緣裝置 Intel全新運算解決方案亮相
Intel在CES 2024宣佈推出Intel Core第14代行動和桌上型處理器系列產品,此外也推出全新Intel Core行動處理器系列,該公司並在CES宣佈將「AI無所不在」的策略應用於汽車產業。
近期熱度正高的AI PC,是在夯什麼?
AI PC是近幾個月出現的全新詞彙,顧名思義是AI與PC的概念相結合,但它目前其實並沒有標準的產品定義,為PC供應鏈與市場帶來無限想像空間。本篇文章就會簡單介紹AI PC的基本資訊以供各位參考。
AI PC市場大餅浮現,Intel、AMD為開發者做好準備了?
迎接2024的AI PC世代,Intel及AMD都已做好準備,分別提出自己的軟、硬體解決方案,希望拉攏更多開發者在其平台上做出能發揮AIGC、LLM模型的創新應用。
如何利用低位元量化技術進一步提升大模型推論性能
相比運算量的增加,大模型推論速度更容易受到記憶體頻寬的影響,導致算力資源無法得到充分發揮,進而影響性能;低位元量化技術是讓大語言模型(LLM)在部署過程中實現性能需求的最佳方案之一,本文將探討低位元量化技術如何幫助LLM提升性能,以及新版OpenVINO對於低位元量化技術的支援。
活用IPEX和Intel GPU加速大型語言模型訓練效率
以IPEX (Intel-Extension-for-PyTorch)搭配Intel硬體產品,可提供最佳化功能大幅提升運作效能。例如透過PyTorch的
利用Intel平台提升LLM微調與訓練效率:ResNet50+LoRA範例
本文將說明如何善用英特爾(Intel)所研發的新產品和相關技術,來提升AI模型的訓練效率,以便提供更優質的推論功能。為了循序漸進介紹上述的新產品及其相關的使用技術,本文先從大家熟悉ResNet50圖像分類模型做為起步範例,並搭配LoRA來進行外掛訓練,以便從這簡單範例中充分理解如何活用上述的創新產品及相關技術。