【2024 MAI Talks】如何拿大模型來訓練企業AI小模型
在「如何拿大模型來訓練企業AI小模型」的演講中,亞太AI高通量計算研究院高煥堂院長分享企業如何利用大模型來訓練AI小模型,以提升企業效能並創造競爭優勢。
LangChain框架已正式支援OpenVINO!
透過LangChain,開發者可以輕鬆構建基於RAG或者Agent流水線的複雜應用體系,而目前我們已經可以在LangChain 的關鍵元件LLM、Text Embedding和Reranker中直接呼叫OpenVINO進行模型部署!
【2024 MAI Talks】企業LLM落地關鍵:模型微型化技術
Deep Mentor CEO吳昕益分享了企業將大型語言模型(LLM)落地部署需要的關鍵技術,深入介紹模型微型化技術的特點。
Skymizer為邊緣裝置LLM處理打造加速器晶片IP
Skymizer 跨足晶片硬體IP市場,發表EdgeThought (ET2)系列加速器IP,號稱採用革命性的軟硬體協同設計,以該公司的編譯器技術為核心,結合為LLM處理量身打造的運算與記憶體架構,將能為從物聯網(IoT)、手機、PC、汽車到邊緣伺服器等裝置,提供輕鬆執行各種LLM模型的解決方案,包括能支援Meta最新Llama3 8B模型。
【2024 MAI Talks】AIPC帶給開發者的即戰力
Intel平台研發協理王宗業分享的「AIPC帶給開發者的即戰力」。從幾個方面介紹了AIPC(Artificial Intelligence Personal Computer)對開發者的重要性和實用性,並展示了Intel在AI技術方面的領先地位和未來發展方向。