|
以LLaVA-NeXT和NNCF先進量化技術掌握多模態AI
6 月18

以LLaVA-NeXT和NNCF先進量化技術掌握多模態AI

Posted By on 6 月 18, 2024 in Edge AI, Edge AI開發地圖, Edge AI開發環境, Intel, LLM, OpenVINO, OpenVINO專欄, OpenVINO教學文, 教學文, 量化技術

在這篇文章中，我們將探索LLaVA-NeXT多模態聊天機器人Notebook，學習如何轉換和最佳化LLaVA-NeXT模型來打造多模態聊天機器人。此外，我們將探討如何在LLM部分應用有狀態轉換(stateful transformation)和使用NNCF進行權重壓縮和量化等模型最佳化技術。

Read More
釋放多模態AI的力量：利用Pix2Struct和Optimum Intel
6 月17

釋放多模態AI的力量：利用Pix2Struct和Optimum Intel

Posted By on 6 月 17, 2024 in Edge AI, Edge AI教學文, Edge AI開發地圖, LLM, OpenVINO, OpenVINO專欄, OpenVINO教學文, 教學文

多模態可以同時處理視覺、聽覺和文字資料，以驚人的深度和精確度解釋其環境；在這篇文章中，我們將深入探討多模態AI的能力，並探索Intel的OpenVINO工具套件如何最佳化這些複雜系統，以因應現實世界的應用。

Read More
【2024 MAI Talks】打造小而美的 Local LLM 對話機器人
6 月17

【2024 MAI Talks】打造小而美的 Local LLM 對話機器人

Posted By on 6 月 17, 2024 in 2024 MAI Talks, CIRCUS Pi, Edge AI, Edge AI應用案例, Edge AI解決方案, Edge AI開發地圖, Edge AI開發學習, Edge AI開發環境, Gemma, LLM, 活動報導, 課程導讀

淩耀電子經理林士允分享了如何打造小而美的 Local LLM（本地大型語言模型）對話機器人。

Read More
【2024 MAI Talks】如何拿大模型來訓練企業AI小模型
6 月13

【2024 MAI Talks】如何拿大模型來訓練企業AI小模型

Posted By on 6 月 13, 2024 in 2024 MAI Talks, ChatGPT, Edge AI開發地圖, Edge AI開發學習, Edge AI開發環境, LLM, 活動報導, 課程導讀

在「如何拿大模型來訓練企業AI小模型」的演講中，亞太AI高通量計算研究院高煥堂院長分享企業如何利用大模型來訓練AI小模型，以提升企業效能並創造競爭優勢。

Read More
LangChain框架已正式支援OpenVINO！
6 月12

LangChain框架已正式支援OpenVINO！

Posted By on 6 月 12, 2024 in AIGC, Edge AI解決方案, Edge AI開發地圖, LLM, OpenVINO專欄, OpenVINO教學文, RAG, 教學文

透過LangChain，開發者可以輕鬆構建基於RAG或者Agent流水線的複雜應用體系，而目前我們已經可以在LangChain 的關鍵元件LLM、Text Embedding和Reranker中直接呼叫OpenVINO進行模型部署！

Read More
【2024 MAI Talks】企業LLM落地關鍵：模型微型化技術
6 月11

【2024 MAI Talks】企業LLM落地關鍵：模型微型化技術

Posted By on 6 月 11, 2024 in 2024 MAI Talks, AIGC, Edge AI, Edge AI解決方案, LLM, RAG, 技術導讀, 技術新訊, 課程導讀

Deep Mentor CEO吳昕益分享了企業將大型語言模型（LLM）落地部署需要的關鍵技術，深入介紹模型微型化技術的特點。

Read More