LangChain框架已正式支援OpenVINO!
透過LangChain,開發者可以輕鬆構建基於RAG或者Agent流水線的複雜應用體系,而目前我們已經可以在LangChain 的關鍵元件LLM、Text Embedding和Reranker中直接呼叫OpenVINO進行模型部署!
【2024 MAI Talks】企業LLM落地關鍵:模型微型化技術
Deep Mentor CEO吳昕益分享了企業將大型語言模型(LLM)落地部署需要的關鍵技術,深入介紹模型微型化技術的特點。
Skymizer為邊緣裝置LLM處理打造加速器晶片IP
Skymizer 跨足晶片硬體IP市場,發表EdgeThought (ET2)系列加速器IP,號稱採用革命性的軟硬體協同設計,以該公司的編譯器技術為核心,結合為LLM處理量身打造的運算與記憶體架構,將能為從物聯網(IoT)、手機、PC、汽車到邊緣伺服器等裝置,提供輕鬆執行各種LLM模型的解決方案,包括能支援Meta最新Llama3 8B模型。
【2024 MAI Talks】AIPC帶給開發者的即戰力
Intel平台研發協理王宗業分享的「AIPC帶給開發者的即戰力」。從幾個方面介紹了AIPC(Artificial Intelligence Personal Computer)對開發者的重要性和實用性,並展示了Intel在AI技術方面的領先地位和未來發展方向。
【2024 MAI Talks】陳縕儂:打造台版LLM的理由與挑戰
在台大資工系陳縕儂副教授主講的「打造台版LLM的理由與挑戰」演講中,主要討論了建立台灣版大型語言模型(LLM)的必要性及挑戰,並分享了她和她的學生在這方面的努力和成果。
GenAI生出的圖好不好?Google/DeepMind提出Gecko評估框架
Google/DeepMind嘗試建立文生圖的客觀量化評估方法,目前已有構想與初步研究成果,此方法稱之為蜥蜴、壁虎(Gecko),本文將介紹這套評估框架。