小型語言模型趨勢觀察與體驗
相對於大語言模型,小語言模型是將LLM縮小、輕量化,以在PC上執行並方便微調的版本;兩者其實沒有很清晰的分界,一般認定70億個參數以下的模型即可視為小模型。
本機端AI統合安裝神器Pinokio
Pinokio類似一個Local AI App Store,下載安裝後可以直接瀏覽多種Local AI應用程式,看上哪一套後一鍵按下去,後續就自動完成所有的安裝,相依的軟體若本機端內本來缺乏的,也會在此一連續程序中自動順勢安裝完成。
藉DeepSeek雜談AI技術觀念
DeepSeek讓大語言模型再掀熱潮,以低費用、少量運算力、短暫時間就訓練出與今日主流大語言模型相仿的表現,讓各界吃驚。不過有關DeepSeek的各種說法,有時候有些混淆,筆者藉此文想聊一下,或許可以幫一些人釐清,或讓平時對AI有興趣的人有更深刻的瞭解。
以技術角度剖析NVIDIA DIGITS專案
NVIDIA的AI桌上型電腦DIGITS專案在今年一月份國際消費性電子展(CES)期間就已經發表,但多數的報導只是單純引述NVIDIA官方所強調的,本文嘗試從更技術的角度來觀察。
替本機端大語言模型Ollama裝上親和介面
毫無疑問的,Ollama是近期非常熱門的本機端大語言模型(LLM)管理工具,透過Ollama可以下載、執行許多知名的大語言模型,如Meta的Llama、Microsoft的Phi、Google的Gemma等。
項鍊型人工智慧Omi開發技術解析
為了鼓勵更多人開發、實現Omi專屬的應用,Omi在諸多方面都採開源(開放原始程式碼)態度,本文就從技術角度來檢視Omi採行了哪些開源作法,讓廣大的Maker更有興趣接觸與評估Omi,以下分裝置、手機、後端三部份來說明。