Edge AI開發學習

5 月30

【活動報導】AI PC搭OpenVINO　在邊緣輕鬆部署LLM！

為了讓開發者更充分了解如何在自己的AI PC上發揮Intel最新版本OpenVINO開發平台的效能以實現更多創新應用，MakerPRO與Intel共同舉辦了以「探索AI PC新時代，學習在邊緣裝置輕鬆運作LLM」為題的第四場OpenVINO DevCon線上講座。

5 月29

在台大資工系陳縕儂副教授主講的「打造台版LLM的理由與挑戰」演講中，主要討論了建立台灣版大型語言模型（LLM）的必要性及挑戰，並分享了她和她的學生在這方面的努力和成果。

5 月27

「Edge AI」到底是什麼，可能問十個專家會得到十一種答案，但這些都沒有對錯，只是大家都以自己的立場回答問題而已。本篇文章，會就Edge AI方案挑選幾項重點項目進行介紹。

5 月02

本篇文章，將以MT5-small預訓練大模型為例，並以Python源碼(Source Code)來說明如何進行LoRA微調三步驟。

4 月08

本篇文章會說明Gemma為何會採取Decoder-Only Transformer架構，並針對Decoder-Only Transformer架構進行介紹。

4 月03

Gemma模型是Text到Text的大型語言模型，非常適合各種文本生成任務。其有多種使用途徑，包括使用新資料來微調Gemma模型、拿Gemma開源程式碼，而從頭開始訓練它，本文將介紹如何從0訓練企業自用Gemma模型。