OpenVINO工具套件AI程式講座
|
從主控晶片檢視NVIDIA AIPC:DGX Spark、DGX Station
4 月25

從主控晶片檢視NVIDIA AIPC:DGX Spark、DGX Station

DGX Spark是NVIDIA倡議的AIPC參考設計,提供給各品牌系統商以此為基礎再行修改調整而後銷售,而除了DGX Spark外,NVIDIA也發表另一款AIPC參考設計:DGX Station,本篇文章會針對此兩款設計做簡單的介紹。

Read More
Hailo在樹莓派上實證LLM技術的語音識別
4 月18

Hailo在樹莓派上實證LLM技術的語音識別

樹莓派公司與Hailo合作,推出Raspberry Pi AI Kit、Raspberry Pi AI HAT+兩款加速模組,只要將加速模組加裝到樹莓派上,即可讓樹莓派電腦獲得AI加速效果。

Read More
DeepSeek真開放?假開放?MOF提供測度參考
3 月28

DeepSeek真開放?假開放?MOF提供測度參考

Linux基金會轄下的LF AI & Data基金會在去(2024)年3月發佈AI模型開放框架(Model Openness Foundation, MOF),明確表達了AI模型的開放包含17個關鍵部件(critical components)。

Read More
本機端AI統合安裝神器Pinokio
2 月25

本機端AI統合安裝神器Pinokio

Pinokio類似一個Local AI App Store,下載安裝後可以直接瀏覽多種Local AI應用程式,看上哪一套後一鍵按下去,後續就自動完成所有的安裝,相依的軟體若本機端內本來缺乏的,也會在此一連續程序中自動順勢安裝完成。

Read More
2025年CES展AI類創新獎觀察
1 月09

2025年CES展AI類創新獎觀察

每年一月的消費性電子展(CES)都會有創新獎的頒佈,雖然獎的頒佈有些浮濫,似乎在於增添展會氣勢,但有時有些獎確實具創意,值得參考,本文就人工智慧(AI)類的獲獎品進行進一步觀察。

Read More
NVIDIA讓TensorRT-LLM推論效率增速三倍
1 月06

NVIDIA讓TensorRT-LLM推論效率增速三倍

最近(2024年12月)NVIDIA新發佈,在TensorRT-LLM中加入了推測性解碼技術,從而讓TensorRT-LLM的推論效率提升三倍。

Read More