2025年CES展AI類創新獎觀察
每年一月的消費性電子展(CES)都會有創新獎的頒佈,雖然獎的頒佈有些浮濫,似乎在於增添展會氣勢,但有時有些獎確實具創意,值得參考,本文就人工智慧(AI)類的獲獎品進行進一步觀察。
NVIDIA讓TensorRT-LLM推論效率增速三倍
最近(2024年12月)NVIDIA新發佈,在TensorRT-LLM中加入了推測性解碼技術,從而讓TensorRT-LLM的推論效率提升三倍。
創客積木M5Stack加入LLM戰局
M5Stack過往即以簡單直覺的「方塊砌疊方式」提供模組化硬體功能而聞名,受到許多STEM教學者、學習者以及Maker的愛戴。近期M5Stack推出LLM的硬體產品,稱為M5Stack LLM模組,本篇文章會對此進行簡單的介紹。
【創業小聚】用AI發現早期癌症,北醫新創DeepRad.AI力助20萬高危險族群
台灣醫療新創神瑞人工智慧(DeepRad.AI),端出了「DeepLung-CAC」,透過AI技術協助醫生快速檢測並分析高風險族群,猶如放射科醫師的第二雙眼睛。
【 Edge AI專欄】 從2024自動化展看智慧機器人發展趨勢
為了讓大家能更了解此次自動化展智慧機器人相關技術,本篇文章會分別從「智慧機器手臂」、「輪型機器人」、「多足型機器人」及「人型機器人」等四個大類為大家介紹。
利用Ollama速成本機端LLM大對話應用
愈來愈多輕量版的LLM登場,開始能夠在一般電腦上安裝使用,如NVIDIA Chat with RTX、AMD LLM Studio等。本文將介紹如何一步步使用Ollama來超快速的實現本機端LLM。