Skymizer為邊緣裝置LLM處理打造加速器晶片IP
Skymizer 跨足晶片硬體IP市場，發表EdgeThought (ET2)系列加速器IP，號稱採用革命性的軟硬體協同設計，以該公司的編譯器技術為核心，結合為LLM處理量身打造的運算與記憶體架構，將能為從物聯網(IoT)、手機、PC、汽車到邊緣伺服器等裝置，提供輕鬆執行各種LLM模型的解決方案，包括能支援Meta最新Llama3 8B模型。
【活動報導】AI PC搭OpenVINO 在邊緣輕鬆部署LLM！
為了讓開發者更充分了解如何在自己的AI PC上發揮Intel最新版本OpenVINO開發平台的效能以實現更多創新應用，MakerPRO與Intel共同舉辦了以「探索AI PC新時代，學習在邊緣裝置輕鬆運作LLM」為題的第四場OpenVINO DevCon線上講座。
GenAI生出的圖好不好？Google/DeepMind提出Gecko評估框架
Google/DeepMind嘗試建立文生圖的客觀量化評估方法，目前已有構想與初步研究成果，此方法稱之為蜥蜴、壁虎（Gecko），本文將介紹這套評估框架。
輕鬆使用OpenVINO在本地裝置離線運作Llama3
利用OpenVINO部署Llama3到本地運算資源，例如AI PC，不僅意味著更快的回應速度和更低的運作成本，還能有效地保護資料安全，防止敏感資訊外洩。這對於需要處理高度敏感性資料的應用場景尤其重要，如醫療、金融和個人助理等領域。本文將介紹如何使用OpenVINO對Llama3模型進行最佳化和推論加速，並將其部署在本地裝置上，進行更快、更智慧的AI推論。
LLM/GenAI的回答會造成危害嗎？MLCommons提出衡量規範草案
針對LLM/GenAI會否造成危害？該如何衡量危害程度？對此MLCommons在今年4月提出LLM的安全性測試標準，稱為MLCommons AI Safety，目前僅為0.5版，其中是如何規範的呢？
【創業小聚】OpenAI的「7叛徒」另立門戶，新創Anthropic真能打敗ChatGPT？
新創公司Anthropic是由OpenAI的前員工們成立的，前陣子公布了最新AI模型：Claude 3，號稱在推理與計算能力上都超越了GPT-4，再次將AI競賽推向了另一個高峰。本篇文章會簡單介紹這些前OpenAI員工對AI模型的看法與願景。