不怕離線！100%在樹莓派上執行的LLM專案

Posted By 陸向陽 on 2 月 23, 2024 in ChatGPT, LLM, Raspberry Pi, Raspberry Pi, 技術新訊, 案例研究

ChatGPT掀起一波LLM熱潮，但LLM運作需要龐大運算力，因此目前多是在雲端上執行。不少人希望LLM也能在本地端執行，如此就不怕斷線、洩漏隱私、內容審查、誤導等缺點。本篇文章，就會介紹創客如何利用樹莓派執行的LLM專案！