如何利用低位元量化技術進一步提升大模型推論性能
相比運算量的增加，大模型推論速度更容易受到記憶體頻寬的影響，導致算力資源無法得到充分發揮，進而影響性能；低位元量化技術是讓大語言模型(LLM)在部署過程中實現性能需求的最佳方案之一，本文將探討低位元量化技術如何幫助LLM提升性能，以及新版OpenVINO對於低位元量化技術的支援。
活用IPEX和Intel GPU加速大型語言模型訓練效率
以IPEX (Intel-Extension-for-PyTorch)搭配Intel硬體產品，可提供最佳化功能大幅提升運作效能。例如透過PyTorch的
利用Intel平台提升LLM微調與訓練效率：ResNet50+LoRA範例
本文將說明如何善用英特爾(Intel)所研發的新產品和相關技術，來提升AI模型的訓練效率，以便提供更優質的推論功能。為了循序漸進介紹上述的新產品及其相關的使用技術，本文先從大家熟悉ResNet50圖像分類模型做為起步範例，並搭配LoRA來進行外掛訓練，以便從這簡單範例中充分理解如何活用上述的創新產品及相關技術。
OpenVINO 2023.1版本問世: 在邊緣端賦能生成式AI
OpenVINO 2023.1版本希望將生成式 AI 的強大功能導入常規桌上型電腦和筆記型電腦，讓這些模型可以在資源受限的本地環境中運作`在整個產品中針對這些場景進行了最佳化，實現了一些關鍵功能，並為我們的下一步工作計畫奠定了基礎。也就是說，我們的變化不僅限於生成式AI，我們還改進了產品的其他部分。以下讓我們來看看這些變化到底是什麼。
以AI進行無人機巡檢河川地貌分析
由於工業科技快速發展，環境議題一直備受討論與重視；近幾年，由於邊緣運算、AI、硬體加速與無人機等技術趨於成熟，公民營機構－－尤以公部門為首－－開始思考是否能借助科技的力量來進行環境工程，本文即以AI物件分割技術作為技術基礎，配合台中市環保局河川揚塵防治計畫進行河床地貌影像分割。
在Ubuntu 22.04快速安裝英特爾顯卡驅動程式玩轉AIGC
本文將介紹如何使用EIV (Edge Insights for Vision) 軟體套件 ，以5行指令快速搭建內含英特爾(Intel)顯卡及OpenVINO的AI開發環境，並簡單說明如何使用OpenVINO及英特爾顯卡最佳化文生圖模型Stable Diffusion的速度。