【高煥堂】專欄

本篇文章，將以MT5-small預訓練大模型為例，並以Python源碼(Source Code)來說明如何進行LoRA微調三步驟。

本篇文章會說明Gemma為何會採取Decoder-Only Transformer架構，並針對Decoder-Only Transformer架構進行介紹。

Gemma模型是Text到Text的大型語言模型，非常適合各種文本生成任務。其有多種使用途徑，包括使用新資料來微調Gemma模型、拿Gemma開源程式碼，而從頭開始訓練它，本文將介紹如何從0訓練企業自用Gemma模型。

本文要來介紹如何利用BF16半精度浮點數以及將影像資料設為NHWC格式兩項技術，來最佳化大型AI模型的訓練速度與記憶體節省，並延續以微調模型訓練為範例，透過完整程式碼來示範如何發揮這兩項新技術的用法和魅力。

本文會拿Diffusion來學習及創作書法字體，也就是俗稱的：寫書法。雖然Diffusion也能學習依循標準筆順，來逐筆寫出字形。為了從簡單範例出發，本文先讓Diffusion來學習程生成整個字形，而不是逐一生成各筆劃。

本文將從商店櫃檯的產品推薦應用來說明：我們可以拿CLIP的原始程式碼，搭配商家自有產品圖像(Image)和圖像敘述文句(Text)，來訓練出企業自用的CLIP小模型，同時也領會其幕後潛藏空間(Latent space)的運作及其效果。

以IPEX (Intel-Extension-for-PyTorch)搭配Intel硬體產品，可提供最佳化功能大幅提升運作效能。例如透過PyTorch的裝置來發揮Intel GPU的潛能，加速AI模型的訓練和推論。本篇文章將說明如何善用上述兩項產品來實現效能的大幅提升，仍然以微調訓練的範例來展現它們的特性，並說明其使用方法和流程。

本文將說明如何善用英特爾(Intel)所研發的新產品和相關技術，來提升AI模型的訓練效率，以便提供更優質的推論功能。為了循序漸進介紹上述的新產品及其相關的使用技術，本文先從大家熟悉ResNet50圖像分類模型做為起步範例，並搭配LoRA來進行外掛訓練，以便從這簡單範例中充分理解如何活用上述的創新產品及相關技術。

SD(Stable Diffusion)是當今頂級的Text-to-Image的繪畫技術，本文將介紹其中的重要觀念：負責嵌入的模型（Encoder）及負責生成的核心模型（Decoder） 。

本篇文章會教導大家如何訓練自己的LoRA模型，並以約翰韋恩風格的人物為例，將步驟拆解，一步一步地進行教學。

在未來5~10年內，我們應力求掌握潛藏空間，致力於開發控制軟件系統，來有效管理AI貨櫃（即潛藏空間）者，將成為AIGC時代的大贏家。

AI「看到」人類沒看到的，它能擴大人類的思維空間。即使ChatGPT回答您的「文案」，也是在表達它所看到的更大空間，給您一些建議，來引導您（人類）去「做出」您沒意料到的更棒的新東西。

人類專家如何傳授直覺性知識給AI模型呢？ 最基本的做法就是：貼分類標簽，也就是做標注（Labeling）。這意味了，在訓練階段必須採取「監督式學習」模式。

當今AI所仰賴大數據的相關性，只是低階的因果關係而已。由於，當今的AI對於因果關係的探索能力，還是非常有限的，仍然非常依賴人類（具有溯因性推理習慣者）來補足。

藉助AI潮流，一方面以AI晶片來連結到半導體IC產業；另一方面則以AIGC來連結到文創&美學設計行業，逐漸融合出更多科技美學跨領域人才。

近幾年，知識圖譜在工業界聲勢日隆，在這種語境下，我們也稱知識圖譜為業務圖譜。GNN 本身是一種深度模型，與推薦系統結合之後，多層 GNN 模型可以更好地捕捉使用者與商品之間的高階協同關係。

AI建模師的職責：組合模型、訓練模型。亦即把一群不會飛的模型巧妙組合起來，訓練它然後飛上天際。台灣如果沒有積極培育優秀「AI建模師」，很可能是未來10年AIGC潮流下的大輸家！

本文將以射飛鏢及繪畫為例，教你如何訓練GAN模型，並且進而能修改既有的其程式碼，來創作您自己的獨特GAN。

AI生成（如AIGC），就是 AI 學會設計出自己的作品。AI 裡的眾多模型之中，GAN 是箇中高手，最擅長從人類的藝術作品中學習到藝術家的風格等。

經由訓練使AI如人類一般擁有溯因性推理習慣，並輔助人類進行決策思考，是目前AI專家們努力的方向，也是AI將邁向革命性的大未來，本文將介紹決策型AI的特色，並以劃拳比賽為例，說明其架構。

本文提出一個新觀點：我們只要把眼光從原來的「內容」，逐漸轉移聚焦到其「素材」層級，就能給予台灣肥沃的 IT 產業帶來豐沛的水分。一方面，打開台灣廠商企業、學校院所、政府部門的菁英人士的心扉，以便迎接 AIGC 幸運草種子雨。

本文將接續前文，揭開AI繪圖的神秘面紗，並針對3D點雲GAN模型進行介紹與教學。

最近紅遍網路，號稱超越人類藝術家的AI繪圖，其原理究竟是什麼？又該如何訓練出一個能畫圖的AI模型呢？本文將針對3D點雲GAN模型進行介紹與教學。