|
釋放多模態AI的力量:利用Pix2Struct和Optimum Intel
6 月17

釋放多模態AI的力量:利用Pix2Struct和Optimum Intel

多模態可以同時處理視覺、聽覺和文字資料,以驚人的深度和精確度解釋其環境;在這篇文章中,我們將深入探討多模態AI的能力,並探索Intel的OpenVINO工具套件如何最佳化這些複雜系統,以因應現實世界的應用。

Read More
【2024 MAI Talks】打造小而美的 Local LLM 對話機器人
6 月17

【2024 MAI Talks】打造小而美的 Local LLM 對話機器人

淩耀電子經理林士允分享了如何打造小而美的 Local LLM(本地大型語言模型)對話機器人。

Read More
【2024 MAI Talks】如何拿大模型來訓練企業AI小模型
6 月13

【2024 MAI Talks】如何拿大模型來訓練企業AI小模型

在「如何拿大模型來訓練企業AI小模型」的演講中,亞太AI高通量計算研究院高煥堂院長分享企業如何利用大模型來訓練AI小模型,以提升企業效能並創造競爭優勢。

Read More
LangChain框架已正式支援OpenVINO!
6 月12

LangChain框架已正式支援OpenVINO!

透過LangChain,開發者可以輕鬆構建基於RAG或者Agent流水線的複雜應用體系,而目前我們已經可以在LangChain 的關鍵元件LLM、Text Embedding和Reranker中直接呼叫OpenVINO進行模型部署!

Read More
【2024 MAI Talks】企業LLM落地關鍵:模型微型化技術
6 月11

【2024 MAI Talks】企業LLM落地關鍵:模型微型化技術

Deep Mentor CEO吳昕益分享了企業將大型語言模型(LLM)落地部署需要的關鍵技術,深入介紹模型微型化技術的特點。

Read More
Skymizer為邊緣裝置LLM處理打造加速器晶片IP
5 月31

Skymizer為邊緣裝置LLM處理打造加速器晶片IP

Skymizer 跨足晶片硬體IP市場,發表EdgeThought (ET2)系列加速器IP,號稱採用革命性的軟硬體協同設計,以該公司的編譯器技術為核心,結合為LLM處理量身打造的運算與記憶體架構,將能為從物聯網(IoT)、手機、PC、汽車到邊緣伺服器等裝置,提供輕鬆執行各種LLM模型的解決方案,包括能支援Meta最新Llama3 8B模型。

Read More