OpenVINO 2024.0：為開發者提供更高性能、更強大支援
OpenVINO 2024.0來了！我們很高興在這個版本推出一系列強化功能，目標是在快速發展的AI領域賦予開發者更強大的能力；新版本透過動態量化、改善的GPU最佳化以及對混合專家(MoE)模型架構的支援，增強了大語言模型(LLM)的性能。OpenVINO 2024.0讓開發者能有效利用AI加速，這也要感謝來自社群的持續貢獻。
不怕離線！100%在樹莓派上執行的LLM專案
ChatGPT掀起一波LLM熱潮，但LLM運作需要龐大運算力，因此目前多是在雲端上執行。不少人希望LLM也能在本地端執行，如此就不怕斷線、洩漏隱私、內容審查、誤導等缺點。本篇文章，就會介紹創客如何利用樹莓派執行的LLM專案！
新年首發 OpenVINO 2023.3 LTS版本隆重登場！
是時候在生成式人工智慧(AI)領域大放異彩地開啟2024年了，最新的OpenVINO推論工具2023.3 LTS版本隆重登場，導入了額外的框架改變，最佳化了生成式AI模型的特性，並強化了對現有平台的支援，將使您在新的一年中的程式編寫之旅變得異常精彩！本文將帶您了解新版本OpenVINO的一些重要更新。
【技術突破】讓行動裝置快速文字生圖 – MobileDiffusion模型
本文介紹MobileDiffusion 這個由Google Core ML 計畫所推出的快速文字生成圖像模型，它專為行動裝置設計，能實現在極短時間內生成高品質的512×512影像，其相對較小的模型尺寸（僅 520M 參數）使其特別適合移動部署。
【Arm的AI世界】為邊緣裝置端對端機器學習提供自動化方案
透過將機器學習開發流程中最繁瑣的部分自動化，TDK Qeexo減少了為支援多款手機耗費的時間與精力。自動化做法也讓他們得以擴展事業的規模，為超過4億支手機提供支援。
【Maker 玩 AI】Grove Vision AI 模組讓 Arduino 也能玩 YOLO 模型
日前 Seeed Studio 推出相同核心的 Grove Vision AI 智慧鏡頭模組，筆者便以行動支持國產晶片入手一片進行測試！本篇文章會介紹如何透過 Grove Vision AI 使Arduino也能玩轉YOLO 模型！