LLM性能再強化 OpenVINO 2024.3隆重發佈！
OpenVINO 2024.3版本現在已經正式推出！這次更新帶來了新的功能，並對現有功能進行了強化，特別是大型語言模型(LLM)的性能；本文將介紹此新版本的關鍵進展。
【CAVEDU講堂】Google DeepMind使用大語言模型LLM提示詞來產生你的機器人操作程式碼
本文將介紹日本橫濱IEEE ICRA(International Conference on Robotics and Automation)展覽中，出現的數個具有特色的機器人在各大領域中的應用，如應用在各方面的大語言模型(LLM)，以及自動駕駛上的新技術等。
【開箱實測】OpenVINO榨出單板極限，實作離線LLM AI助理！
在當前AI PC問世之際，相信不少人已知道OpenVINO可以加速離線大語言模型(LLM)的推論速度，本篇文章是要更進一步在資源更為受限的單板電腦上進行大語言模型的推論，甚至是實作一個離線大語言模型的AI助理出來！
以LLaVA-NeXT和NNCF先進量化技術掌握多模態AI
在這篇文章中，我們將探索LLaVA-NeXT多模態聊天機器人Notebook，學習如何轉換和最佳化LLaVA-NeXT模型來打造多模態聊天機器人。此外，我們將探討如何在LLM部分應用有狀態轉換(stateful transformation)和使用NNCF進行權重壓縮和量化等模型最佳化技術。
LangChain框架已正式支援OpenVINO！
透過LangChain，開發者可以輕鬆構建基於RAG或者Agent流水線的複雜應用體系，而目前我們已經可以在LangChain 的關鍵元件LLM、Text Embedding和Reranker中直接呼叫OpenVINO進行模型部署！
聯發科技於Computex 2024展示跨平台AI應用解決方案
聯發科技(MediaTek)於Computex 2024展示其AI技術包括手機、平板、汽車與邊緣裝置的跨平台多領域應用，以及自家開發的中文大語言模型(LLM)；該公司並於Computex期間發表兩款新晶片組──高階Chromebook Kompanio 838以及4K高階智慧電視及顯示器的 Pentonic 800，在不同應用領域提供優異性能及 AI 運算能力。此外聯發科副董事長暨執行長蔡力行亦於6月4日的專題演說，暢談該公司技術如何推動無所不在的 AI 世代。