|
LangChain框架已正式支援OpenVINO!
6 月12

LangChain框架已正式支援OpenVINO!

透過LangChain,開發者可以輕鬆構建基於RAG或者Agent流水線的複雜應用體系,而目前我們已經可以在LangChain 的關鍵元件LLM、Text Embedding和Reranker中直接呼叫OpenVINO進行模型部署!

Read More
【編輯檯報告】AI串聯無限可能…Computex來啦!
6 月03

【編輯檯報告】AI串聯無限可能…Computex來啦!

如同今年Computex的主題「AI串聯、共創未來」(Connecting AI)所描繪的,人工智慧讓全世界的電子/科技產業鏈重新找到了一個匯聚的焦點,全新的應用與遊戲規則讓廠商們不得不積極動作起來,睜大眼睛尋找可以攜手共創未來的夥伴…

Read More
英特爾攜手合作夥伴助力AI PC創作新世代
3 月14

英特爾攜手合作夥伴助力AI PC創作新世代

英特爾攜手宏碁、Adobe、華碩、訊連科技、微星科技等合作夥伴,於台北三創生活園區舉辦為期四天的「AI PC創作新世代」活動,現場展示多款最新基於Intel Core Ultra的AI PC系統與影像創作應用,並邀請橫跨不同領域的專業創作團隊分享如何透過AI PC解決創作過程中遇到的瓶頸,以及如何能有效發揮創作軟體各式各樣的功能,提升整體流程效率,進而激發更多創意。

Read More
【CES 2024】從PC到邊緣裝置 Intel全新運算解決方案亮相
1 月10

【CES 2024】從PC到邊緣裝置 Intel全新運算解決方案亮相

Intel在CES 2024宣佈推出Intel Core第14代行動和桌上型處理器系列產品,此外也推出全新Intel Core行動處理器系列,該公司並在CES宣佈將「AI無所不在」的策略應用於汽車產業。

Read More
運用BF16與NHWC技術實現進階版LLM微調訓練最佳化
12 月18

運用BF16與NHWC技術實現進階版LLM微調訓練最佳化

本文要來介紹如何利用BF16半精度浮點數以及將影像資料設為NHWC格式兩項技術,來最佳化大型AI模型的訓練速度與記憶體節省,並延續以微調模型訓練為範例,透過完整程式碼來示範如何發揮這兩項新技術的用法和魅力。

Read More
活用IPEX和Intel GPU加速大型語言模型訓練效率
12 月05

活用IPEX和Intel GPU加速大型語言模型訓練效率

以IPEX (Intel-Extension-for-PyTorch)搭配Intel硬體產品,可提供最佳化功能大幅提升運作效能。例如透過PyTorch的裝置來發揮Intel GPU的潛能,加速AI模型的訓練和推論。本篇文章將說明如何善用上述兩項產品來實現效能的大幅提升,仍然以微調訓練的範例來展現它們的特性,並說明其使用方法和流程。

Read More