OpenVINO 2023.2版本發佈:讓生成式AI在實際場景中更易用
OpenVINO發佈最新2023.2版本了!與之前的版本一樣,在提高性能、增加對新AI模型的支援,以及構建基礎設施和模型快取等不同元件方面都有重大改進,除了並導入在CPU和整合顯卡上運作權重量化為int8和int4精度的LLM的能力,也更新了模型轉換和最佳化工具;OpenVINO產品架構師Yury Gorbachev將在本文詳細介紹新版本的優勢。
【活動報導】2023Maker Faire Taipei,創客基地聯合成果展示
Maker Faire從2006年於美國舊金山發起後,至今已授權全球超過140個城市舉辦,更是有數百萬人參與此活動,在全球各地,掀起一陣陣的「Maker」風暴。而Maker Faire Taipei,更是台灣一年一度的Maker盛事,於今年 11/18~11/19在瓶蓋工廠台北製造所隆重登場!
一步到位:利用OpenVINO實現LCM高速影像生成
最近橫空出世的潛在一致性模型(LCM)讓文生圖模型的圖片急速生成變成可能。LCM可以在任何預訓練的潛在擴散模型上進行快速推斷、步驟最少,包括穩定擴散模型(Stable Diffusion)。用OpenVINO也能對充滿魔力的LCM文生圖模型進行完全的最佳化、壓縮以及推理加速、快速部署的支援!
AI視覺「看見」美好未來 廠商分享成功落地經驗
在日前一場由處理器大廠英特爾(Intel)代理商夥伴──電子零組件通路業者建智(Sertek)主辦的「Visual to AIGC智慧應用落地部署實務論壇」技術研討會,邀請到來自不同領域的專業廠商分享在部署邊緣AI視覺應用的成功案例。
不只MCU/MPU 實現Edge AI應用FPGA也很行!
FPGA技術陣容持續擴大,除了運算性能媲美一般高階處理器SoC的產品之外,也有功耗表現不遜於MCU的「小」型方案;無論是消費性電子、車用、工業等市場領域,FPGA都穩穩佔據一席之地。而在MCU/MPU之外,屬於可程式化元件的FPGA或許也是開發Edge AI時可以考慮的選擇。