OpenVINO工具套件AI程式講座
|
Arm新一代Ethos-U NPU與IoT參考設計平台亮相
4 月10

Arm新一代Ethos-U NPU與IoT參考設計平台亮相

Arm的嵌入式AI加速器Ethos-U系列NPU再添新成員U85;與上一代產品相比,Ethos-U85的效能號稱提升四倍,並提高了20%功耗效率…

Read More
以服務精神經營Edge AI市場 DeepMentor志在實現「模型經濟」
4 月08

以服務精神經營Edge AI市場 DeepMentor志在實現「模型經濟」

DeepMentor目前的解決方案,是以獨家的AI模型/演算法微型化軟體技術為基礎,搭配名為DeepLog的自有AI處理器(TPU)軟IP,以及DMAI系列AI加速硬體系統(Arm架構加速卡DMAI FPGA與Intel x86架構DMAI-700/900),提供涵蓋模型訓練、ASIC設計、嵌入式系統軟硬體整合的客製化Edge AI應用落地服務。

Read More
【Edge AI專欄 #15】從MWC 2024看AI手機未來發展
3 月26

【Edge AI專欄 #15】從MWC 2024看AI手機未來發展

一年一度的世界通訊大會(MWC 2024)於2/26到2/29在西班牙巴塞隆納盛大舉行,此次重點落在了AI上,尤其是不靠連網、本機可獨立運算的生成式應用。為了讓大家更理解AI手機究竟有哪些方案供應商,硬體上究竟有哪些重大突破及軟體上到底能玩什麼應用,本篇文章會為各位一一介紹!

Read More
推探Google開源、輕量級大型語言模型Gemma
3 月21

推探Google開源、輕量級大型語言模型Gemma

Google基於原有Gemini模型經驗與技術衍生打造Gemma模型,該模型為開放來源程式碼,滿足開源需要的開發者與用戶,有機會進行更多的延伸、衍生或更細深的客製。本篇文章就會對Gemma進行簡單的介紹。

Read More
以可重構NPU實現邊緣應用 耐能致力推動AI民主化
3 月08

以可重構NPU實現邊緣應用 耐能致力推動AI民主化

成立於2015年、擁有台灣血統的AI晶片設計業者耐能智慧(Kneron),於2023年底針對企業應用發表以該公司神經網路處理器(NPU)技術為基礎的KNEO 300系列EDGE GPT邊緣裝置,主打可藉由在裝置本地端(不須連結網際網路)運作GPT大語言模型,為使用者實現低延遲、高效率且具備隱私保護與資料安全性的各種Edge AI推論應用,在市場上掀起一波討論熱潮…

Read More
【創業小聚】前蘋果員工打造、入選YC的Intrinsic,要用大型語言模型解決臉書都做不好的事
3 月04

【創業小聚】前蘋果員工打造、入選YC的Intrinsic,要用大型語言模型解決臉書都做不好的事

社群平台發言容易,但仇恨性言論、色情、假新聞等資訊也不斷的出現,儘管平台方透過AI協助審查,但還是有不少漏網之魚。曾在Apple擔任詐欺工程和演算法團隊工程師的Karine Mellata和Michael Lin,創立Intrinsic嘗試透過LLM協助平台方進行言論審查。

Read More