【啟動AI Maker世代 】2024 MAI 開發者社群大會(5/16-17)
|
活用IPEX和Intel GPU加速大型語言模型訓練效率
12 月05

活用IPEX和Intel GPU加速大型語言模型訓練效率

以IPEX (Intel-Extension-for-PyTorch)搭配Intel硬體產品,可提供最佳化功能大幅提升運作效能。例如透過PyTorch的裝置來發揮Intel GPU的潛能,加速AI模型的訓練和推論。本篇文章將說明如何善用上述兩項產品來實現效能的大幅提升,仍然以微調訓練的範例來展現它們的特性,並說明其使用方法和流程。

Read More
利用Intel平台提升LLM微調與訓練效率:ResNet50+LoRA範例
11 月29

利用Intel平台提升LLM微調與訓練效率:ResNet50+LoRA範例

本文將說明如何擅用英特爾(Intel)所研發的新產品和相關技術,來提升AI模型的訓練效率,以便提供更優質的推論功能。為了循序漸進介紹上述的新產品及其相關的使用技術,本文先從大家熟悉ResNet50圖像分類模型做為起步範例,並搭配LoRA來進行外掛訓練,以便從這簡單範例中充分理解如何活用上述的創新產品及相關技術。

Read More
OpenVINO 2023.1版本問世: 在邊緣端賦能生成式AI
10 月13

OpenVINO 2023.1版本問世: 在邊緣端賦能生成式AI

OpenVINO  2023.1版本希望將生成式 AI 的強大功能導入常規桌上型電腦和筆記型電腦,讓這些模型可以在資源受限的本地環境中運作`在整個產品中針對這些場景進行了最佳化,實現了一些關鍵功能,並為我們的下一步工作計畫奠定了基礎。也就是說,我們的變化不僅限於生成式AI,我們還改進了產品的其他部分。以下讓我們來看看這些變化到底是什麼。

Read More
以AI進行無人機巡檢河川地貌分析
9 月15

以AI進行無人機巡檢河川地貌分析

由於工業科技快速發展,環境議題一直備受討論與重視;近幾年,由於邊緣運算、AI、硬體加速與無人機等技術趨於成熟,公民營機構--尤以公部門為首--開始思考是否能借助科技的力量來進行環境工程,本文即以AI物件分割技術作為技術基礎,配合台中市環保局河川揚塵防治計畫進行河床地貌影像分割。

Read More
在Ubuntu 22.04快速安裝英特爾顯卡驅動程式玩轉AIGC
9 月12

在Ubuntu 22.04快速安裝英特爾顯卡驅動程式玩轉AIGC

本文將介紹如何使用EIV (Edge Insights for Vision) 軟體套件 ,以5行指令快速搭建內含英特爾(Intel)顯卡及OpenVINO的AI開發環境,並簡單說明如何使用OpenVINO及英特爾顯卡最佳化文生圖模型Stable Diffusion的速度。

Read More
利用OpenVINO以BLIP實現視覺語言邊緣AI部署
8 月31

利用OpenVINO以BLIP實現視覺語言邊緣AI部署

隨著電腦視覺和自然語言處理領域的快速發展,視覺與語言的融合越來越受到研究人員的重視。在這個背景下,BLIP引起了廣泛關注--該模型在大規模的影像文字資料集上預訓練深度神經網路模型,以提高下游視覺語言任務的性能,如影像文字檢索、影像描述和視覺問答。本文作者將帶領讀者一步步了解如何在研揚科技(AAEON)的新產品UP Squared Pro 7000 Edg上,利用OpenVINO來最佳化BLIP的推論加速。

Read More