從COMPUTEX 2025看Edge AI晶片

Posted By 陸向陽 on 5 月 26, 2025 in AI PC, AI關鍵技術, Edge AI, Edge AI開發地圖, LLM, 技術新訊, 特寫, 產品新訊, 綜論, 陸向陽 | 0 comments

作者：陸向陽

今年台北國際電腦展可說是全面的AI展示，很難一次全部網羅，本文以與Maker關聯的Edge AI晶片來聚焦說明。

首先是瑞昱科技（Realtek）的RTL8735C晶片（圖1）獲得COMPUTEX BC Awards（最佳選獎），該晶片除了具有Wi-Fi跟BT通訊能力外還強調超低功耗多模態（Multimodal）AI能力，適合AIoT相關應用。

圖1：Realtek RTL88735C（攝影：陸向陽）

入選最佳獎的還有義隆電子（ELAN）針對工控電腦應用而開發的具AI能力的觸控用晶片（圖2，未見晶片編號）或正文科技（Gemtek）與Dr. AI合作的醫師代理人（圖3，外觀有點像復活島上的摩艾），可讓患者在家直接用語音與代理人交談互動（機內具有大語言模型），省去門診時才來口頭描述病痛症狀，也可透過互動了解康復狀況。

圖2 義隆電子AI賦能工控電腦觸控晶片（攝影：陸向陽）

圖3：醫師代理人（攝影：陸向陽）

另外稍偏題的，Maker可能會有興趣的模組型筆電、桌機商Framework Computer也有來展，展示其筆電（圖4）、桌機（圖5）。

圖4：Framework筆電（攝影：陸向陽）

圖5：Framework桌機（攝影：陸向陽）

接著是創鑫智慧（Neuchip）展示其Raptor晶片，該晶片針對LLM需求進行強化，並能以模組子卡、介面卡、直接焊接在主機板（圖6）等方式提供，現場也展示多家夥伴與業者採用其晶片，如Vecow、Maple Leaf、ShareGuru SQLPilot、myPDA、YOSUN集團等。

圖6 Neuchips的Raptor晶片焊接於主機板上（圖右上）（攝影：陸向陽）

進一步的，高通（Qualcomm）在積極展示Arm架構PC晶片外也展示諸多與AI相關的嵌入式晶片，如QCS6490（圖7）可提供12.5TOPS的AI推論運算力，適合搭配攝影機實現電腦視覺（Computer Vision, CV）相關的AI應用。

另外，國內許多記憶體、快閃記憶體模組商每年都會參展，宇瞻科技（Apacer）即有展示供第五代樹莓派用的架高式固態硬碟（圖8），顯見樹莓派的影響力持續擴張。

圖7 Qualcomm QCS6490晶片（攝影：陸向陽）

圖8：Apache專供第五代樹莓派用的固態硬碟PT25R-Pi HAT SSD（攝影：陸向陽）

不僅國內業者，南韓DeepX公司也來展示其Edge AI相關晶片，事實上去年即有來，但展示陣容似乎比去年更大，並且與國內外許多系統商共同展出，如國內的AIC營佳（圖9）、Biostar映泰，或是美國Dell、Supermicro等，其中營佳方案使用DeepX DX-H1加速卡以PCIe介面接入機箱，提供整體系統的AI加速能力。

圖9 DeepX DX-H1加速卡上有4顆晶片，以20瓦電力提供100TOPS AI運算效能（攝影：陸向陽）

DeepX的展示相當多，如DX-M1模組子卡以M.2介面連接可提供25TOPS運算力，一樣有諸多工控電腦系統商採用，如我國的AAOEN研揚、iEi威強電、MSI微星、Inventec英業達、DFI友通、Portwell瑞傳、Advantech研華（圖10）等，或深圳SeeedStudio。

或者DeepX也強調DX-M1可以跟其他嵌入式處理器、控制器搭配使用，如Renesas、NXP、TI等，或是與知名的單板電腦搭配，如Rock Pi、Orange Pi、LattePanda以及樹莓派（圖11）。

圖10 （攝影：陸向陽）

圖11 （攝影：陸向陽）

值得一提的是Edge AI基金會也有來展，聯合其他數家成員企業一起來，如國內的奇景光電（Himax）、Sony索尼（圖12）、Femtosense、AIZIP等，展示各種Edge AI技術方案。

圖12 Sony展示用於Raspberry Pi AI攝影機內的IMX500（攝影：陸向陽）

再者，InnoVEX今年刻意以不同國家分區的方式展示，波蘭公司semiQa展示獨特的類比神經網路（aNN）晶片方案，宣稱延遲縮小50倍、功耗減少10倍的AI方案（圖13）。

圖13 波蘭semiQa展示aNN的AI加速方案（攝影：陸向陽）

最後也說一下以色列Hailo，這家其實不用筆者多作介紹，許多平台有在接觸Edge AI領域的人多少已聽過該公司，不過今年是在以色列專屬展區展示，展示其Hailo-10H晶片（圖14），此是針對大語言模型需求而設計，與過往針對電腦視覺應用為主的Hail-8不同。

圖14 現場展示Hailo-10H晶片的原型品（攝影：陸向陽）

事實上在過去的COMPUTEX展上就可見Hailo晶片的身影，但當時不是原廠來展，而是國內的代理商在展。另外以色列展區也有系統商NeuReality展示AI推論專用機（圖15），機內使用Qualcomm的Cloud AI 100 Ultra晶片的加速卡，以及該公司專屬的NR1 Orchestrator晶片，且高度明顯主打用於Ollama、DeepSeek、Mistral等大語言模型。

不過此已略屬Cloud AI領域，但Cloud AI 100系列仍是有機會用於Edge AI領域（100 Ultra功耗150瓦，但100 Pro、100 Standard則為75瓦，物聯網閘道器仍有機會使用）。