輕鬆使用OpenVINO在本地裝置離線運作Llama3
利用OpenVINO部署Llama3到本地運算資源，例如AI PC，不僅意味著更快的回應速度和更低的運作成本，還能有效地保護資料安全，防止敏感資訊外洩。這對於需要處理高度敏感性資料的應用場景尤其重要，如醫療、金融和個人助理等領域。本文將介紹如何使用OpenVINO對Llama3模型進行最佳化和推論加速，並將其部署在本地裝置上，進行更快、更智慧的AI推論。
【Edge AI專欄】AIPC開箱實測 ─ Yolov8斜物件偵測
本篇文章會使用Asus NUC 14 PRO來進行AI推論應用，並從AIPC 硬體規格、安裝工作環境、旋轉物件偵測及在不同硬體運行效能分析比較等方面幫大家做一個完整的介紹。
讓生成式AI「靠邊」 NVIDIA展現軟硬兼施真功夫
為了讓更多開發者了解生成式AI技術的魅力所在，以及NVIDIA的Jetson系列平台在部署Edge AI應用時發揮的關鍵作用，NVIDIA代理商益登科技(EDOM)與MakerPRO合作舉辦了一場線上講座，帶領聽眾探索生成式AI新技術將如何顛覆各行各業的運作模式
【開箱評測】看研華科技 AIR-150 搭載 Hailo-8 26TOPS AI推論晶片如何成為邊緣智慧新利器
本篇文章會對研華科技的微型工業電腦 AIR-150 進行評測。這款機器內搭 M.2 型式 Hailo-8 高效 AI 加速模組，具有 26 TOPS 推論能力，正好可以解決惡劣環境、空間窄小及AI應用推論算力不足的問題。
Himax展示新一代WiseEye超低功耗AI智慧感測方案
奇景光電(Himax)日前展示了該公司WiseEye超低功耗AI智慧感測解決方案的多項應用，包括最新的掌靜脈身份辨識技術。奇景光電執行長吳炳昌表示，該公司特別看好市場對於能在電池供電裝置上執行AI功能的需求，特別是與機器視覺相關的應用…
【Arm的AI世界】以ExecuTorch與TOSA讓PyTorch在Arm平台順利運作
Arm與Meta密切合作在ExecuTorch導入對Arm裝置的初步支援，以Tensor運算子集架構(TOSA)為基礎擷取類神經網路，並利用Ethos NPU在行動及嵌入式平台加速關鍵的ML工作負載…快來了解如何使用PyTorch及ExecuTorch以TOSA將圖形匯出至Arm平台！
0514邊緣系統VLM視覺理解推論實作工作坊
