【活動報導】AI PC搭OpenVINO 在邊緣輕鬆部署LLM！
為了讓開發者更充分了解如何在自己的AI PC上發揮Intel最新版本OpenVINO開發平台的效能以實現更多創新應用，MakerPRO與Intel共同舉辦了以「探索AI PC新時代，學習在邊緣裝置輕鬆運作LLM」為題的第四場OpenVINO DevCon線上講座。
【2024 MAI Talks】陳縕儂：打造台版LLM的理由與挑戰
在台大資工系陳縕儂副教授主講的「打造台版LLM的理由與挑戰」演講中，主要討論了建立台灣版大型語言模型（LLM）的必要性及挑戰，並分享了她和她的學生在這方面的努力和成果。
【Edge AI專欄】 開發者如何選擇 Edge AI 開發方案
「Edge AI」到底是什麼，可能問十個專家會得到十一種答案，但這些都沒有對錯，只是大家都以自己的立場回答問題而已。本篇文章，會就Edge AI方案挑選幾項重點項目進行介紹。
GenAI生出的圖好不好？Google/DeepMind提出Gecko評估框架
Google/DeepMind嘗試建立文生圖的客觀量化評估方法，目前已有構想與初步研究成果，此方法稱之為蜥蜴、壁虎（Gecko），本文將介紹這套評估框架。
【創業小聚】入選富比士「最值得關注AI團隊」、獲NV投資，醫療新創Abridge解決了什麼問題？
新創團隊Abridge，將語音辨識和人工智慧內容摘要引入醫學領域，透過AI語音辨識和整理，加速醫師進行病歷統整的文書時間。
輕鬆使用OpenVINO在本地裝置離線運作Llama3
利用OpenVINO部署Llama3到本地運算資源，例如AI PC，不僅意味著更快的回應速度和更低的運作成本，還能有效地保護資料安全，防止敏感資訊外洩。這對於需要處理高度敏感性資料的應用場景尤其重要，如醫療、金融和個人助理等領域。本文將介紹如何使用OpenVINO對Llama3模型進行最佳化和推論加速，並將其部署在本地裝置上，進行更快、更智慧的AI推論。