輕鬆利用OpenVINO結合LangChain與Llama2打造智慧小助手
LLM大模型存在很多痛點,包括但不限於資料陳舊、無法和外部元件互動等,本文旨在使用 OpenVINO 2023.1新版本的特性加速Llama2模型,為Llama2客製化Prompt,並用LangChain 實現可連網取得最新消息的輔助搜尋功能
2023年Arduino開放原碼報告:持續茁壯的Arduino生態系!
近年來Arduino官方到了年末年初時都會發佈年度回顧報告,回顧過去一年來整個社群在各方面的新進展,本篇文就對此稍作整理。
【CAVEDU講堂】在Jetson Nano 2GB 燒錄系統映像檔
本文將引領對AI有興趣,想要跨入AI領域的初學者進入NVIDIA Jetson Nano 2GB的世界,從映像檔燒錄開始,針對如何設置Jetson Nano 2GB進行教學。
【AI工具教學】你的YOLOv5模型不夠快?用TensorRT來加速吧!
TensorRT是NVIDIA Jetson系列的深度學習模型加速工具,能最佳化硬體、提高效能,適應不同運算精度,並優化模型結構。影片中介紹TensorRT的使用,特別強調YOLOv5轉換、如何操作及其卓越加速效果。
【Arm的AI世界】利用Arm機器學習嵌入式評估套件快速部署Edge AI應用
Cortex-M55處理器是Arm Cortex-M處理器中人工智慧功能最強大的,也是第一顆基於Arm Helium技術的CPU。儘管Cortex-M55在微小的微處理器上運作機器學習模型速度已經很快了,不過它與Arm Ethos-U55 microNPU完成整合後,在嵌入式系統中最快可讓機器學習推論速度提升480倍。本文將告訴大家如何運用開源的Arm機器學習嵌入式評估套件快速打造並部署嵌入式機器學習應用!
新唐為嵌入式AI應用推出多款MCU+NPU解決方案
新唐科技推出新款Edge AI平台解決方案 – NuMicro® M55M1、NuMicro® MA35D1 和 NuMicro® M467 系列。此系列的硬體架構中除內建新唐自家的MCU和MPU晶片外,更搭配了Arm的Ethos U55 NPU,並提供NuEdgeWise機器學習 (ML) 開發工具,有助於加速嵌入式設備實現AI功能。