用OpenVINO和LangChain打造你專屬的RAG問答系統
隨著生成式AI的興起,和大語言模型對話聊天的應用變得非常熱門,但這類應用往往只能簡單地和你「聊聊家常」,並不能針對某些特定產業提供非常專業和精準的答案。那有沒有辦法讓你的模型學習到新的知識呢?當然有!在沒有足夠GPU運算資源對模型進行重新訓練的情況下,RAG方式對普通使用者來說更友善。本文就要來探討如何利用OpenVINO以及LangChain工具構建屬於你的RAG問答系統。
【技術突破】讓行動裝置快速文字生圖 – MobileDiffusion模型
本文介紹MobileDiffusion 這個由Google Core ML 計畫所推出的快速文字生成圖像模型,它專為行動裝置設計,能實現在極短時間內生成高品質的512×512影像,其相對較小的模型尺寸(僅 520M 參數)使其特別適合移動部署。
【Arm的AI世界】為邊緣裝置端對端機器學習提供自動化方案
透過將機器學習開發流程中最繁瑣的部分自動化,TDK Qeexo減少了為支援多款手機耗費的時間與精力。自動化做法也讓他們得以擴展事業的規模,為超過4億支手機提供支援。
【Edge AI專欄】誰說單晶片沒有神經網路加速器NPU就不能玩微型AI應用?
本文將從「平行/向量指令集加速」的角度來為大家說明如何在沒有神經網路加速器NPU時也能順利玩微型AI應用。
科學玩具-彈珠小海龜
本次的作品介紹,希望可以讓閱讀者了解創作靈感來自生活中所有的好設計,透過形式、材質的改變或用法的改變,都有可能變成一種全新的創意與應用,好的設計不一定要完全原創,更重要的是如何在現有的架構上不停突破或改良。