用OpenVINO GenAI解鎖LLM極速推論：推測式解碼讓AI爆發潛能
借助簡化開發和最佳化硬體利用率的工具，OpenVINO使開發者能夠在各種即時和資源受限的場景中部署高性能的LLM；無論是構建回應迅速的聊天機器人或高效率虛擬助手，還是具備可擴展性的創意應用，OpenVINO正在重新定義AI推論的可能性。本文將探討如何利用OpenVINO GenAI的推測式解碼技術使這一變革性創新成為現實。
用Yocto Project打造輕量、客製化、高性能的 AI 邊緣系統
如果想打造輕量、可客製化、高性能的 AI 邊緣系統，Yocto Project 是其中的一個選擇。本文介紹Yocto支援主流AI運算架構現況及整合AI開發案例。
讓低功耗行動AI落地！OpenMV推 AI 相機模組
創客熟悉的OpenMV也推出內嵌NPU、支援行動AI運算的相機模組了，其核心分別來自ST及ALIF，並上架Kickstarter達標了。這兩款模組的技術特色為何，且看本文介紹。
輕鬆用Intel AI PC及OpenVINO建立數位分身
一個完整的數位分身，就像真人一樣，要具有自然語言對話、豐富肢體動作和產生生動表情的能力，其中就需要用到許多生成式AI技術，包括利用語音轉文字(STT)得到問題的文字，交給大語言模型(LLM)進行文字問答，再將文字轉語音(TTS)把答案讀出，最後再配合語音自動對嘴形(Lip Sync)讓人物影像的嘴巴也能和語音同步動起來。
【Arm的AI世界】三步驟輕鬆在Ethos-U85上使用PyTorch與ExecuTorch
Arm透過在Ethos-U85上支援ExecuTorch測試版，為開發人員建構物聯網邊緣端應用提供了更多支援。開發人員可以借助ExecuTorch，高效率地部署原生開發的PyTorch模型，基於Arm平台建構出智慧且回應迅速的IoT解決方案。
如何客製化企業 RAG 知識庫？— 從資料庫到知識整合的實戰技術
