作者：高煥堂
AI模型結構目前仍處於「大模型（LLM）架構」，相當於1970年代的「IBM 大型電腦」架構。後來，到1990年代才進入台積電的IC架構時代。如今，LLM又加上「多模態」基礎模型：
產業革命性轉折點，常會出現貨櫃的身影
使得當今的AI生態，相當於長榮海運 張榮發年輕時代（1970年代）的「散貨碼頭」情境。後來，到1990年代才進入長榮海運的貨櫃（Container）物流時代。
於是，台灣的幸運草出現了：如同長榮海運，利用貨櫃打造一個有機次序（Organic order ）碼頭和海運、陸運管理體系，大幅降低管理成本而演化為一個全球化大生態。
亦即，台灣的另一個新產業即將出現了：如同竹科（和台積電），利用IC晶片（Container ）打造一個有機次序（Organic order ）半導體IC產業的生產鏈和管理體系，大幅降低管理成本而演化為一個全球化大生態。
茲回顧，長榮海運生態的Container是貨櫃。華碩PC&Server生態的Container是硬體MB（主機板：Mother Board）和軟體OS。而台積電半導體生態的Container是IC晶片。以及，耐能公司Edge AI生態的Container是AI加速晶片。
那麼，請您猜猜看，當前AIGC 潮流的貨櫃（Container）是什麼呢？我認為答案極可能是：潛藏空間（Latent Space）。
擅用潛藏空間（Latent Space）的共用性
NN模型的潛藏空間（又稱隱藏空間），就相當於：人心中蘊藏著直覺的無招空間。武林大俠：無招生有招，千變萬化。這就是AIGC （AI生成千變萬化）。為「隱」，不受特定User需求的影響，就容易制定隱空間的一致性和標準化容器（Container, 即貨櫃）。
基於NN模型的潛藏空間架構模式，可以確保潛藏層AI模型（和晶片）設計變動的自由。讓底層研發人員可以加速研發出更通用性的AI和晶片組件，來提升整體綜效，促進商業效益，擴大利潤空間。
潛藏空間的內容是從可觀察資料空間歸納萃取而得到的精華，相當於閱歷豐富的領域專家（Domain Expert）內心所領悟沉澱出來的經驗直覺。它具有簡單性和穩定性（不變性），不同領域的專家可以協同合作（Collaboration），不同的領域的智慧可以共用的（Shareable）。於是，潛藏空間模型的高度共用性，能大大提升邊緣AI設備的通用性，並擴大商機。
設計可PnP的資料預處理「介面模型」
剛才的潛藏空間模型設計，力求提升其通用性。而相對地，這裡的介面模型（Interface Model），則追求可抽換性（Plug and Play，簡稱PnP）的益處。相對於潛藏空間模型，這種介面模型，屬於輕量級的模型，簡單而多樣化。
例如，在醫療AI的聯合學習專案裡，各單位可以自行選擇適用的介面模型，並運行於獨立的Edge AI邊緣設備上，擔任佈署後推理階段的資料預處理任務。
兩種模型虛實相依、彈性組合，支持企業成長與繁榮
通常我們會把「可觀察」數據層的介面模型與「不可觀察」的潛藏空間模型，分開設計、測試及佈署推理，兩者變成疏結合（Loosely-coupled）關係。當可觀察層的需求及演算法變化所產生的漣漪效應不會波及潛藏層模型。
同樣，當企業專家智慧成長了，潛藏層需求改變時，它不會影響可觀察層的使用者介面。這可以大大降低「重量級」潛藏層模型開發的風險。因此，基於本專案的創新設計，可以確保AI模型底層設計變動的自由度，可以實現「沒錢就改版，改版就有錢」的商業策略。因此創造了完美的有機次序（Organic Order）：底層模型（如同樹幹）、介面模型（如同樹枝）、企業資料（如同樹葉），三者虛實相依、彈性組合，支持企業成長，以便落實MLOps和聯合學習。這種新潮的模式，我們稱之為：基於潛藏空間的AI系統架構設計。
然後，再加碼陸續開發一群控制模塊來管理這些隱藏空間內的AI模型（如GAN的生成器模型、NLP的Attention模型）。隨著這群控制模塊的逐漸地擴大和生生不息，就繁榮成為AIOS （例如，台灣的人工智慧作業系統）。
善用機器學習（ML）神經網路模型裡的潛藏空間（Latent Space），作為上述控制性核心組件的架構（Architecture），讓ML模型上層的可觀察空間（Observable Spaces） 與晶片兩者之間成為疏結合關係，進而創造整體系統的有機次序。
結語
此書作者朱嘉明老師提到了：”向量與模型就是一切”。我（高煥堂）認為，在未來的2025~30年之間，這些向量與模型，就會百花齊放、繁雜多樣，非常難管理了，導致管理成本急速升高。就如同1980~90年代，經濟生產全球化，碼頭上貨物形形色色，繁雜多樣，非常難管理了，導致管理成本急速升高。於是，貨櫃（Container）角色出來了，大貨輪也出來了，陸地上拖車業也大發利市。
剛才提到了，AI 模型貨櫃極可能是：AI模型裡的神祕桃花源 – 潛藏空間（Latent space ）。因此，在未來5~10年內，我們應力求掌握潛藏空間，致力於開發控制軟件系統，來有效管理AI貨櫃（即潛藏空間）者，將成為AIGC時代的大贏家。而這套控制軟件系統，也就是剛才提到的：AIOS （人工智慧作業系統）。
（責任編輯：謝嘉洵。）
近5年來，從事於AI普及化教育工作，目前擔任銘傳大學AI課程、長庚智慧醫療研究所AI課程授課老師。也擔任永春國小、東園國小、立志中學、君毅中學、永春高中等學校的AI師資培育工作。
- LoRA微調三步驟：以大語言模型MT5為例 - 2024/05/02
- 為什麼Gemma採取Decoder-Only Transformer架構呢? - 2024/04/08
- 如何從0訓練企業自用Gemma模型 - 2024/04/03
.jpg)
.jpg)