|
【Arm的AI世界】為邊緣裝置端對端機器學習提供自動化方案
2 月02

【Arm的AI世界】為邊緣裝置端對端機器學習提供自動化方案

透過將機器學習開發流程中最繁瑣的部分自動化,TDK Qeexo減少了為支援多款手機耗費的時間與精力。自動化做法也讓他們得以擴展事業的規模,為超過4億支手機提供支援。

Read More
【Edge AI專欄】誰說單晶片沒有神經網路加速器NPU就不能玩微型AI應用?
1 月31

【Edge AI專欄】誰說單晶片沒有神經網路加速器NPU就不能玩微型AI應用?

本文將從「平行/向量指令集加速」的角度來為大家說明如何在沒有神經網路加速器NPU時也能順利玩微型AI應用。

Read More
輕鬆利用OpenVINO結合LangChain與Llama2打造智慧小助手
1 月26

輕鬆利用OpenVINO結合LangChain與Llama2打造智慧小助手

LLM大模型存在很多痛點,包括但不限於資料陳舊、無法和外部元件互動等,本文旨在使用 OpenVINO 2023.1新版本的特性加速Llama2模型,為Llama2客製化Prompt,並用LangChain 實現可連網取得最新消息的輔助搜尋功能

Read More
【創業小聚】成立半年就成為獨角獸!法國新創Mistral AI用「完全開源」挑戰OpenAI
1 月15

【創業小聚】成立半年就成為獨角獸!法國新創Mistral AI用「完全開源」挑戰OpenAI

2022年,OpenAI的GPT模型讓AI進入人們的生活,有了更多應用場景和機會。出於對OpenAI「閉源」的作法不認同,Mistral AI以完全授權的Apache 2.0授權方式開源新的LLM模型。

Read More
【Arm的AI世界】利用Arm機器學習嵌入式評估套件快速部署Edge AI應用
1 月15

【Arm的AI世界】利用Arm機器學習嵌入式評估套件快速部署Edge AI應用

Cortex-M55處理器是Arm Cortex-M處理器中人工智慧功能最強大的,也是第一顆基於Arm Helium技術的CPU。儘管Cortex-M55在微小的微處理器上運作機器學習模型速度已經很快了,不過它與Arm Ethos-U55 microNPU完成整合後,在嵌入式系統中最快可讓機器學習推論速度提升480倍。本文將告訴大家如何運用開源的Arm機器學習嵌入式評估套件快速打造並部署嵌入式機器學習應用!

Read More
【CES 2024】NVIDIA及AMD推新顯示卡,目標AI PC!
1 月11

【CES 2024】NVIDIA及AMD推新顯示卡,目標AI PC!

AMD和Nvidia都在 CES 2024 上推出了可加速AI運算的新顯示卡,企圖將AI功能引入消費級電腦。

Read More