|
致敬?回敬?繼NVIDIA Chat with RTX後AMD亦推行LLM Studio
3 月27

致敬?回敬?繼NVIDIA Chat with RTX後AMD亦推行LLM Studio

LLM/GenAI倚賴雲端資料中心機房裡龐大的運算力,才能即時完成推論結果並回應,一旦網路斷線就無法使用,同時,雲端執行也有洩漏公司機密或個人隱私等風險,鑑於此,不少人開始期待透過本地端或本機端執行LLM。本篇文章,就會介紹AMD推行的LLM Studio,其可下載於本地端進行簡單的聊天問答。

Read More
推探Google開源、輕量級大型語言模型Gemma
3 月21

推探Google開源、輕量級大型語言模型Gemma

Google基於原有Gemini模型經驗與技術衍生打造Gemma模型,該模型為開放來源程式碼,滿足開源需要的開發者與用戶,有機會進行更多的延伸、衍生或更細深的客製。本篇文章就會對Gemma進行簡單的介紹。

Read More
不只是評估套件?BrainChip推出Akida Edge AI Box閘道器
2 月28

不只是評估套件?BrainChip推出Akida Edge AI Box閘道器

BrainChip與VVDN Technologies合作,推出了Akida Edge AI Box,本篇文章,就會簡單介紹這款AI Box給各位認識。

Read More
不怕離線!100%在樹莓派上執行的LLM專案
2 月23

不怕離線!100%在樹莓派上執行的LLM專案

ChatGPT掀起一波LLM熱潮,但LLM運作需要龐大運算力,因此目前多是在雲端上執行。不少人希望LLM也能在本地端執行,如此就不怕斷線、洩漏隱私、內容審查、誤導等缺點。本篇文章,就會介紹創客如何利用樹莓派執行的LLM專案!

Read More
「末日困境」該準備什麼?創客興起Cyberdeck組裝電腦熱潮!
1 月25

「末日困境」該準備什麼?創客興起Cyberdeck組裝電腦熱潮!

鑑於末日可能到來,有創客開始用第五代樹莓派打造自己的末日用組裝式手提電腦 – Cyberdeck,並命名為PiDEX。本篇文章,就會介紹PiDEX的各項設計。

Read More
2023年Arduino開放原碼報告:持續茁壯的Arduino生態系!
1 月23

2023年Arduino開放原碼報告:持續茁壯的Arduino生態系!

近年來Arduino官方到了年末年初時都會發佈年度回顧報告,回顧過去一年來整個社群在各方面的新進展,本篇文就對此稍作整理。

Read More