DeepSeek真開放?假開放?MOF提供測度參考
Linux基金會轄下的LF AI & Data基金會在去(2024)年3月發佈AI模型開放框架(Model Openness Foundation, MOF),明確表達了AI模型的開放包含17個關鍵部件(critical components)。
小型語言模型趨勢觀察與體驗
相對於大語言模型,小語言模型是將LLM縮小、輕量化,以在PC上執行並方便微調的版本;兩者其實沒有很清晰的分界,一般認定70億個參數以下的模型即可視為小模型。
本機端AI統合安裝神器Pinokio
Pinokio類似一個Local AI App Store,下載安裝後可以直接瀏覽多種Local AI應用程式,看上哪一套後一鍵按下去,後續就自動完成所有的安裝,相依的軟體若本機端內本來缺乏的,也會在此一連續程序中自動順勢安裝完成。
藉DeepSeek雜談AI技術觀念
DeepSeek讓大語言模型再掀熱潮,以低費用、少量運算力、短暫時間就訓練出與今日主流大語言模型相仿的表現,讓各界吃驚。不過有關DeepSeek的各種說法,有時候有些混淆,筆者藉此文想聊一下,或許可以幫一些人釐清,或讓平時對AI有興趣的人有更深刻的瞭解。
以技術角度剖析NVIDIA DIGITS專案
NVIDIA的AI桌上型電腦DIGITS專案在今年一月份國際消費性電子展(CES)期間就已經發表,但多數的報導只是單純引述NVIDIA官方所強調的,本文嘗試從更技術的角度來觀察。
替本機端大語言模型Ollama裝上親和介面
毫無疑問的,Ollama是近期非常熱門的本機端大語言模型(LLM)管理工具,透過Ollama可以下載、執行許多知名的大語言模型,如Meta的Llama、Microsoft的Phi、Google的Gemma等。