|
【Arm的AI世界】Kleidi助力開發人員加速AI創新
6 月27

【Arm的AI世界】Kleidi助力開發人員加速AI創新

Arm Kleidi是一項廣泛的軟體和軟體社群參與計畫,目的在於加速AI發展。首先推出運用於熱門AI框架的Arm Kleidi軟體函式庫,開發人員可以直接取得Arm CPU出色的AI功能;而如今全球從雲端到邊緣的大多數AI推論工作負載,都在這些Arm CPU上執行。

Read More
【2024 MAI Talks】以智慧感測平台實現TinyML落地應用
6 月21

【2024 MAI Talks】以智慧感測平台實現TinyML落地應用

從邊緣設備到感測器,AI走下雲端進入終端,將在日常生活與各行各業實現具備龐大潛力與價值的不同應用。源壹科技資深產品經理賴南宏在以「用智慧感測平台實現TinyML的落地應用」為題之演說中,透過對該公司智慧感測硬體平台技術細節的介紹,以及未來趨勢以及實際應用案例的分享,讓聽眾對TinyML邊緣運算的「威力」有更深入的了解。

Read More
【2024 MAI Talks】企業LLM落地關鍵:模型微型化技術
6 月11

【2024 MAI Talks】企業LLM落地關鍵:模型微型化技術

Deep Mentor CEO吳昕益分享了企業將大型語言模型(LLM)落地部署需要的關鍵技術,深入介紹模型微型化技術的特點。

Read More
Devin AI 橫空出世  AI 軟體工程師的時代來臨了嗎!?
4 月15

Devin AI 橫空出世  AI 軟體工程師的時代來臨了嗎!?

隨著 Devin AI 問世,它能自動完成大部分的軟體開發工作,包括需求分析、設計、撰寫程式碼、測試及部署,這標記著人工智慧在軟體工程領域的突破性進展,甚至可能徹底顛覆傳統的軟體開發模式。

Read More
OpenVINO 2024.0:為開發者提供更高性能、更強大支援  
3 月19

OpenVINO 2024.0:為開發者提供更高性能、更強大支援  

OpenVINO 2024.0來了!我們很高興在這個版本推出一系列強化功能,目標是在快速發展的AI領域賦予開發者更強大的能力;新版本透過動態量化、改善的GPU最佳化以及對混合專家(MoE)模型架構的支援,增強了大語言模型(LLM)的性能。OpenVINO 2024.0讓開發者能有效利用AI加速,這也要感謝來自社群的持續貢獻。

Read More
不怕離線!100%在樹莓派上執行的LLM專案
2 月23

不怕離線!100%在樹莓派上執行的LLM專案

ChatGPT掀起一波LLM熱潮,但LLM運作需要龐大運算力,因此目前多是在雲端上執行。不少人希望LLM也能在本地端執行,如此就不怕斷線、洩漏隱私、內容審查、誤導等缺點。本篇文章,就會介紹創客如何利用樹莓派執行的LLM專案!

Read More