Ollama官方模型分類觀察
AI模型多自然是選擇豐富,但也容易選擇無力,因此Ollama官方開始給模型分類,其實就是給模型標籤;完全沒有標籤的模型就是很尋常、四平八穩的一般大語言模型,有標籤則有其特殊點,目前有四種主要標籤。
【開源專案】基於 MCP+ESP32 的《小智AI聊天機器人》
《小智AI聊天機器人》作為一個基於MCP(Model Context Protocol)的開源項目,不僅展示了人工智慧在物聯網控制中的應用,還將大語言模型的能力引入實際的硬體設備之中。本文將探討這一項目的技術特點、應用場景以及其對AI硬體開發的意義。
Arduino Cloud Editor加入大語言模型幫手功能
使用LLM有多種用途,如回答一般問題、翻譯、寫程式、算數學等,而Arduino官方看準LLM的應用價值,開始在Arduino Cloud Editor雲端編輯器上加入人工智慧助手(AI Assistant)功能。
應援LLM邊緣推論任務 Skymizer以LPU加速生成式AI遍地開花
市場新秀Skymizer於2025年Computex前發表號稱功能更強大的新一代LPU產品HyperThought,採用由該公司自主開發的最新3.0版LISA,強調對多模態AI、多模型並行執行以及代理式AI的支援…
認識IPEX-LLM:LLM模型最佳化的PyTorch工具
IPEX-LLM是英特爾為其 XPU(Xeon/Core/Flex/Arc/PVC)提出的低位元 LLM 開源(Apache 2.0授權)函式庫,是專為 PyTorch 生態打造的LLM執行擴充套件,具有廣泛的模型支援、低延遲和記憶體佔用小等優勢。