|
用OpenVINO和LangChain打造你專屬的RAG問答系統
2 月06

用OpenVINO和LangChain打造你專屬的RAG問答系統

隨著生成式AI的興起,和大語言模型對話聊天的應用變得非常熱門,但這類應用往往只能簡單地和你「聊聊家常」,並不能針對某些特定產業提供非常專業和精準的答案。那有沒有辦法讓你的模型學習到新的知識呢?當然有!在沒有足夠GPU運算資源對模型進行重新訓練的情況下,RAG方式對普通使用者來說更友善。本文就要來探討如何利用OpenVINO以及LangChain工具構建屬於你的RAG問答系統。

Read More
【技術突破】讓行動裝置快速文字生圖 – MobileDiffusion模型
2 月05

【技術突破】讓行動裝置快速文字生圖 – MobileDiffusion模型

本文介紹MobileDiffusion 這個由Google Core ML 計畫所推出的快速文字生成圖像模型,它專為行動裝置設計,能實現在極短時間內生成高品質的512×512影像,其相對較小的模型尺寸(僅 520M 參數)使其特別適合移動部署。

Read More
【Arm的AI世界】為邊緣裝置端對端機器學習提供自動化方案
2 月02

【Arm的AI世界】為邊緣裝置端對端機器學習提供自動化方案

透過將機器學習開發流程中最繁瑣的部分自動化,TDK Qeexo減少了為支援多款手機耗費的時間與精力。自動化做法也讓他們得以擴展事業的規模,為超過4億支手機提供支援。

Read More
【Edge AI專欄】誰說單晶片沒有神經網路加速器NPU就不能玩微型AI應用?
1 月31

【Edge AI專欄】誰說單晶片沒有神經網路加速器NPU就不能玩微型AI應用?

本文將從「平行/向量指令集加速」的角度來為大家說明如何在沒有神經網路加速器NPU時也能順利玩微型AI應用。

Read More
專攻馬達控制 瑞薩Edge AI應用RA8系列MCU又添新成員
1 月30

專攻馬達控制 瑞薩Edge AI應用RA8系列MCU又添新成員

瑞薩電子(Renesas)宣佈推出採用Arm Helium架構Cortex-M系列M85核心處理器的RA8T1系列微控制器(MCU),鎖定工業、大樓自動化以及智慧家庭等應用常見的馬達、電源等產品的即時控制要求。

Read More
輕鬆利用OpenVINO結合LangChain與Llama2打造智慧小助手
1 月26

輕鬆利用OpenVINO結合LangChain與Llama2打造智慧小助手

LLM大模型存在很多痛點,包括但不限於資料陳舊、無法和外部元件互動等,本文旨在使用 OpenVINO 2023.1新版本的特性加速Llama2模型,為Llama2客製化Prompt,並用LangChain 實現可連網取得最新消息的輔助搜尋功能

Read More