LangChain框架已正式支援OpenVINO!
透過LangChain,開發者可以輕鬆構建基於RAG或者Agent流水線的複雜應用體系,而目前我們已經可以在LangChain 的關鍵元件LLM、Text Embedding和Reranker中直接呼叫OpenVINO進行模型部署!
【編輯檯報告】AI串聯無限可能…Computex來啦!
如同今年Computex的主題「AI串聯、共創未來」(Connecting AI)所描繪的,人工智慧讓全世界的電子/科技產業鏈重新找到了一個匯聚的焦點,全新的應用與遊戲規則讓廠商們不得不積極動作起來,睜大眼睛尋找可以攜手共創未來的夥伴…
英特爾攜手合作夥伴助力AI PC創作新世代
英特爾攜手宏碁、Adobe、華碩、訊連科技、微星科技等合作夥伴,於台北三創生活園區舉辦為期四天的「AI PC創作新世代」活動,現場展示多款最新基於Intel Core Ultra的AI PC系統與影像創作應用,並邀請橫跨不同領域的專業創作團隊分享如何透過AI PC解決創作過程中遇到的瓶頸,以及如何能有效發揮創作軟體各式各樣的功能,提升整體流程效率,進而激發更多創意。
【CES 2024】從PC到邊緣裝置 Intel全新運算解決方案亮相
Intel在CES 2024宣佈推出Intel Core第14代行動和桌上型處理器系列產品,此外也推出全新Intel Core行動處理器系列,該公司並在CES宣佈將「AI無所不在」的策略應用於汽車產業。
運用BF16與NHWC技術實現進階版LLM微調訓練最佳化
本文要來介紹如何利用BF16半精度浮點數以及將影像資料設為NHWC格式兩項技術,來最佳化大型AI模型的訓練速度與記憶體節省,並延續以
活用IPEX和Intel GPU加速大型語言模型訓練效率
以IPEX (Intel-Extension-for-PyTorch)搭配Intel硬體產品,可提供最佳化功能大幅提升運作效能。例如透過PyTorch的