致敬？回敬？繼NVIDIA Chat with RTX後AMD亦推行LLM Studio
LLM/GenAI倚賴雲端資料中心機房裡龐大的運算力，才能即時完成推論結果並回應，一旦網路斷線就無法使用，同時，雲端執行也有洩漏公司機密或個人隱私等風險，鑑於此，不少人開始期待透過本地端或本機端執行LLM。本篇文章，就會介紹AMD推行的LLM Studio，其可下載於本地端進行簡單的聊天問答。
|