從CLIP應用領會潛藏空間(Latent space)的魅力
本文將從商店櫃檯的產品推薦應用來說明:我們可以拿CLIP的原始程式碼,搭配商家自有產品圖像(Image)和圖像敘述文句(Text),來訓練出企業自用的CLIP小模型,同時也領會其幕後潛藏空間(Latent space)的運作及其效果。
如何利用低位元量化技術進一步提升大模型推論性能
相比運算量的增加,大模型推論速度更容易受到記憶體頻寬的影響,導致算力資源無法得到充分發揮,進而影響性能;低位元量化技術是讓大語言模型(LLM)在部署過程中實現性能需求的最佳方案之一,本文將探討低位元量化技術如何幫助LLM提升性能,以及新版OpenVINO對於低位元量化技術的支援。
【CAVEDU講堂】MyGPTs:做一個具備指定技能的專屬 ChatGPT 吧!
近期OpenAI dev day 所發表各項更新中,最令人讚嘆的就是 GPTs,任何人都可以透過 GPTs 來做出專屬的 GPT 應用,本文將說明如何使用 GPTs editor 來自行設計出您專屬的 ChatGPT。
利用Intel平台提升LLM微調與訓練效率:ResNet50+LoRA範例
本文將說明如何善用英特爾(Intel)所研發的新產品和相關技術,來提升AI模型的訓練效率,以便提供更優質的推論功能。為了循序漸進介紹上述的新產品及其相關的使用技術,本文先從大家熟悉ResNet50圖像分類模型做為起步範例,並搭配LoRA來進行外掛訓練,以便從這簡單範例中充分理解如何活用上述的創新產品及相關技術。
一步到位:利用OpenVINO實現LCM高速影像生成
最近橫空出世的潛在一致性模型(LCM)讓文生圖模型的圖片急速生成變成可能。LCM可以在任何預訓練的潛在擴散模型上進行快速推斷、步驟最少,包括穩定擴散模型(Stable Diffusion)。用OpenVINO也能對充滿魔力的LCM文生圖模型進行完全的最佳化、壓縮以及推理加速、快速部署的支援!
【CIRCUS Pi】Azure Custom Vision - AutoML 物件偵測輕鬆玩
本文將介紹如何使用Azure Custom Vision,做為微軟 Azure 雲端服務旗下的一員,不僅具備強大的功能與整合能力,亦允許開發人員訓練自己的機器學習模型,常見的影像分類 Image Classification 與物件檢測 Object Detection 皆有,適合初學者訓練物件偵測模型。