用OpenVINO和LangChain打造你專屬的RAG問答系統
隨著生成式AI的興起，和大語言模型對話聊天的應用變得非常熱門，但這類應用往往只能簡單地和你「聊聊家常」，並不能針對某些特定產業提供非常專業和精準的答案。那有沒有辦法讓你的模型學習到新的知識呢？當然有!在沒有足夠GPU運算資源對模型進行重新訓練的情況下，RAG方式對普通使用者來說更友善。本文就要來探討如何利用OpenVINO以及LangChain工具構建屬於你的RAG問答系統。
輕鬆利用OpenVINO結合LangChain與Llama2打造智慧小助手
LLM大模型存在很多痛點，包括但不限於資料陳舊、無法和外部元件互動等，本文旨在使用 OpenVINO 2023.1新版本的特性加速Llama2模型，為Llama2客製化Prompt，並用LangChain 實現可連網取得最新消息的輔助搜尋功能
【CES 2024】從PC到邊緣裝置 Intel全新運算解決方案亮相
Intel在CES 2024宣佈推出Intel Core第14代行動和桌上型處理器系列產品，此外也推出全新Intel Core行動處理器系列，該公司並在CES宣佈將「AI無所不在」的策略應用於汽車產業。
近期熱度正高的AI PC，是在夯什麼？
AI PC是近幾個月出現的全新詞彙，顧名思義是AI與PC的概念相結合，但它目前其實並沒有標準的產品定義，為PC供應鏈與市場帶來無限想像空間。本篇文章就會簡單介紹AI PC的基本資訊以供各位參考。
AI PC市場大餅浮現，Intel、AMD為開發者做好準備了？
迎接2024的AI PC世代，Intel及AMD都已做好準備，分別提出自己的軟、硬體解決方案，希望拉攏更多開發者在其平台上做出能發揮AIGC、LLM模型的創新應用。
如何利用低位元量化技術進一步提升大模型推論性能
相比運算量的增加，大模型推論速度更容易受到記憶體頻寬的影響，導致算力資源無法得到充分發揮，進而影響性能；低位元量化技術是讓大語言模型(LLM)在部署過程中實現性能需求的最佳方案之一，本文將探討低位元量化技術如何幫助LLM提升性能，以及新版OpenVINO對於低位元量化技術的支援。
線上學習
