|

從產業型樹莓派上找樂趣:支援ChatGPT的SaraKIT載板

近期一家SaraAI公司推出一片SaraKIT載板,該載板就是為第四代樹莓派的CM而設計的,載板上提供各種感測、控制功能電路等,省去創客再行設計電路,而將開發心力更快轉移到軟體開發、功能驗證等更後段的工作上。本篇文章會對此載板進行介紹。

Read More

OpenVINO 2023.2版本發佈:讓生成式AI在實際場景中更易用

OpenVINO發佈最新2023.2版本了!與之前的版本一樣,在提高性能、增加對新AI模型的支援,以及構建基礎設施和模型快取等不同元件方面都有重大改進,除了並導入在CPU和整合顯卡上運作權重量化為int8和int4精度的LLM的能力,也更新了模型轉換和最佳化工具;OpenVINO產品架構師Yury Gorbachev將在本文詳細介紹新版本的優勢。

Read More

一步到位:利用OpenVINO實現LCM高速影像生成

最近橫空出世的潛在一致性模型(LCM)讓文生圖模型的圖片急速生成變成可能。LCM可以在任何預訓練的潛在擴散模型上進行快速推斷、步驟最少,包括穩定擴散模型(Stable Diffusion)。用OpenVINO也能對充滿魔力的LCM文生圖模型進行完全的最佳化、壓縮以及推理加速、快速部署的支援!

Read More
No more posts to show